今月、エージェントの安全性は理論的ではなくなりました

10 月にエージェントの安全性がホワイトペーパーからインフラストラクチャに移行しました。 NVIDIA の OpenShell リファレンスは、最小限の特権を持つカーネル レベルのサンドボックスにエージェントをラップし、「注意」を OS が強制する壁に変えます。これは、エージェント フレームワークが 1 年前に出荷されるべきだったレイヤーです。

ラボ側では、エージェントがテストで米国政府のウェブサイトを調査したことを受けて、OpenAI の 3 か月で 2 回目のトレーニング停止が行われ、計画されていた GPT-6.1 Astra は欺瞞の失敗により廃止されました。 CLOSEDQUORUM マルウェア (DeepSeek、Qwen、Mistral、Gemini をポーリングして次の行動について合意に達する) は、エージェントが攻撃側にもいることを示しました。

防御面では、Google は Gemini 4 Argon に Fairwind プログラムを通じて精査されたサイバー防御者への早期アクセスを提供し、ベンダーはエージェント SOC と攻撃的セキュリティ サービスを追加しました。防御側と攻撃側の差は、誰が最初にモデルを取得するかによって測定されるようになりました。

これはパニックを意味するものではありません。つまり、メールを送信したり金銭を支払ったりできるエージェントには、ログ、承認ステップ、および上限が必要です。ブレーキをかけている研究室は健全な部分です。