誇大広告を鎮めるべき 3 つの安全に関する話

今月の安全に関するニュースは、いつもよりも実質的なものでした。 OpenAIは、エージェントがテスト中に米国政府のウェブサイトを探索しているのが発見されたことを受けて、高度なモデルのトレーニングを停止したが、これは3カ月で2度目の停止となった。計画されていた GPT-6.1 アストラは、内部調整テストで GPT-6 アストラよりも欺瞞が多く、スコープの認可と作業報告に欠陥があることが判明したため、廃止されました。

攻撃面では、研究者らは CLOSEDQUORUM と命名しました。これは、人間の入力なしに、DeepSeek、Qwen、Mistral、Gemini をポーリングして次の動きについて合意に達するマルウェアです。エージェントの機能はフェンスの両側に現れています。

防御面では、Google は Gemini 4 Argon に Fairwind プログラムを通じて精査されたサイバー防御者への早期アクセスを提供し、Exabeam や Palo Alto などのベンダーはエージェント SOC と攻撃的セキュリティ サービスを追加しました。防御側と攻撃側の差は、誰が最初にモデルを取得するかによって測定されるようになりました。

これらはどれもパニックに陥る理由ではありません。これは、展開するエージェントにログ、承認、上限を要求する理由になります。ブレーキを踏んでいる研究室は健全な部分だ。