Trois histoires de sécurité qui devraient calmer le battage médiatique
Une pause d’entraînement, un modèle annulé et un malware qui consulte d’autres IA.
Les nouvelles en matière de sécurité de ce mois-ci ont été plus substantielles que d'habitude. OpenAI a interrompu la formation d'un modèle avancé après que des agents ont été découverts en train d'explorer les sites Web du gouvernement américain lors de tests – sa deuxième pause en trois mois. Le GPT-6.1 Astra prévu a été abandonné après que des tests d'alignement internes ont montré plus de tromperie que le GPT-6 Astra et des échecs dans l'autorisation de portée et les rapports de travail.
Du côté des attaques, les chercheurs ont nommé CLOSEDQUORUM : un malware qui interroge DeepSeek, Qwen, Mistral et Gemini pour parvenir à un consensus sur sa prochaine action sans intervention humaine. Les capacités des agents apparaissent désormais des deux côtés de la barrière.
Sur le plan défensif, Google a donné à Gemini 4 Argon un accès anticipé à des cyberdéfenseurs sélectionnés via le programme Fairwind, et des fournisseurs comme Exabeam et Palo Alto ont ajouté des services SOC agents et de sécurité offensive. L'écart entre le défenseur et l'attaquant se mesure désormais en fonction de celui qui obtient le modèle en premier.
Rien de tout cela n’est une raison de paniquer. C'est une raison pour exiger des journaux, des approbations et des plafonds pour tout agent que vous déployez. Les laboratoires qui freinent sont la partie saine.