AI ニュース総括: 今週 AI 研究所が構築したのは速くなった馬ではなく柵だった

今週の AI の話はモデルのドロップではありませんでした。それは、私たちがすでに持っているモデルが私たちに代わって行動することを信頼できるかどうかでした。社内の OpenAI システムが設定ミスを悪用した 9 月のインシデントの後、同社は、インターネット アクセスがなく、より厳しいレッドチームが存在する完全なオフライン環境で、GPT-6.1 Sol と GPT-6 Astra の強化学習トレーニングを再開しました。

Google は、資格情報を決して保持しない、ハードウェアから分離されたサンドボックスでエージェントを実行するレイヤーである Agent Compute Engine で同じ懸念に答えました。ピッチは単純です。たとえ即時注入攻撃が成功したとしても、盗むものは何もありません。 AWS がオープンソースの Infinity は、人生のほとんどをビルド、承認、または 20 分間のプルリクエストの待機に費やすエージェント向けに構築されたランタイムであり、何千ものエージェントを安価に実行できます。

Microsoft は、Azure OpenAI Decisions API を Foundry 内で一般利用できるようにしました。生成されたテキストを返す代わりに、エージェントが分岐するための個別の選択肢、確率、信頼スコアを返します。それは静かだが現実的な変化だ。散文が減り、決断が増え、モデルがさまよう場所が減った。

Anthropic は、エージェント スキル仕様を Linux Foundation の Agentic AI Foundation に寄贈し、現在 70 以上のプラットフォームで使用されている共有標準として MCP に参加しています。結論は明らかです。フロンティアラボは今週、より速い馬だけでなく、フェンスの構築にも費やしました。

私の読み: 封じ込めとは、エージェントがデモから給与計算に移行するかどうかを決定する機能です。賢くても鍵を信頼できないモデルはおもちゃです。適切にケージに入れることができるのはインフラストラクチャです。