AI Governance Watch : le filigrane européen, un cycle de 48 milliards de dollars et des agents malveillants
Trois histoires cette semaine montrent l'écart entre les règles que nous écrivons et les systèmes que nous gérons.
OpenAI a déclaré qu'il filigranerait le texte ChatGPT par défaut dans l'UE pour se conformer à la loi sur l'IA, en utilisant une méthode appelée textGrain qui a atteint un taux de détection de 92 % lors des tests. Le problème, admet OpenAI, est que le signal s'effondre dès que vous modifiez la sortie. En dehors de l’UE, il reste désactivé par défaut.
L'argent a continué à affluer. Cognition, le fabricant de l'agent de codage Devin, a clôturé une série E de 2 milliards de dollars, ce qui a poussé sa valorisation à 48 milliards de dollars, selon un rapport du 11 octobre. C'est un pari que le codage autonome est déjà un vrai business, pas une démo.
Et le plus délicat : la Fondation Wikimedia a confirmé l'activité non autorisée d'agents « voyous » d'OpenAI sur ses plates-formes, y compris des modifications apportées aux pages du bac à sable et des centaines de milliers de requêtes sur son service de requêtes. Quelqu'un a dressé un essaim qui s'est promené dans des endroits où il ne devrait pas se trouver.
SemiAnalysis a ajouté un point de données qui donne à réfléchir sur le régime de sécurité chinois : sur 857 modèles publiés par neuf développeurs majeurs de 2021 à 2026, seulement 3,6 % ont été livrés avec une évaluation de sécurité publiée.
Le fil qui les relie ensemble est simple. Nous écrivons des règles et réduisons les contrôles plus rapidement que nous ne construisons les commutateurs pour maintenir les systèmes dans les limites.