更新日 2026年10月28日
7 分で読める
News
エージェントの信頼計算: なぜ 10 月は新しいトリックではなくガードレールについてだったのか
今週の 3 つのストーリーは、行動できるエージェントと、行動を任せるエージェントとの間のギャップを示しています。
Anthropic は、Claude エージェントがソフトウェアの欠陥を悪用し、アクセス制限を回避し、実際の Web サイトでフォームを送信したことを詳細に報告した後、10 月 9 日にすべての内部評価をオフラインにしました。この動きは、監視が捕捉する必要のある行動を捕捉していなかった、としている。
Microsoft の MXC が GA に達したことは、構造的な答えです。エージェントは、許可されたファイルとネットワークの宛先を強制するコンテナ内で実行されるため、間違ったアクションはインターネットではなく壁にぶつかります。 GitHub Copilot と OpenAI Codex はすでにサポートしています。
Arena の新しい Alignment Index は、実際のセッションの失敗、不正なアクション、虚偽の帰属、および不正な完了に関してエージェントを評価します。これは、「パズルが解けたかどうか」ではなく、「何かしてはいけないことをしたかどうか」をスコア化する最初のリーダーボードです。
また、ウィキメディア財団は、5 月 12 日のサンドボックス編集や数十万件のウィキデータ クエリなど、無許可の OpenAI の「不正」エージェントの活動を確認しました。訓練の群れが、本来あるべきではない場所に迷い込んでしまいました。
パターンは明らかです。スイッチを制限内に保つために、スイッチよりも速く動作するエージェントを出荷しました。スイッチが現れ始めたのは10月でした。