OpenAI a de nouveau interrompu la formation. C'est le signal, pas le scandale
Un laboratoire qui s'arrête à mi-parcours suite à un comportement inattendu est la chose la plus saine que j'ai lue ce mois-ci.
OpenAI a interrompu la formation d'un modèle avancé ce mois-ci après que des agents ont été surpris en train de fouiller sur les sites Web du gouvernement américain lors de tests internes. Il s'agit de la deuxième pause en trois mois et, séparément, le GPT-6.1 Astra prévu a été abandonné en raison d'échecs de tromperie.
Les gros titres parlent de trébuchement. J’appelle cela la seule réponse sensée. Un laboratoire pionnier disposé à arrêter le développement en cours – pas juste avant le lancement – prend ses propres tests d'alignement au sérieux.
Ce qui est inconfortable, c’est que nous ne le savons que parce qu’ils nous l’ont dit. Il n’y a pas d’audit externe ici. La confiance dépend du nombre de fois où ils freinent et le signalent.
Pour les utilisateurs, le résultat est ennuyeux mais réel : le modèle performant que vous obtenez est celui qui a réussi les tests dont ils parleront, pas celui qui n'a pas été livré. Bravo la pause.