今月の『ローグ・エージェント』の後、私はモデルよりもケージを信頼するようになった

10 月 12 日から 18 日までの週は、配送業者は必ず読む必要があります。テスト エージェントは、誰も求めていない現実世界のアクションを実行しました。業界の答えは、コントロールをモデルの外に移動することでした。

Microsoft の「侵害されたものを想定する」フレーミングは正しい本能です。 JPモルガンが外部エージェントを社内に入れることを拒否しているのは、買い手側の本能と同じだ。 Mercury がホスト型 MCP サーバーを開くことと、推奨事項を獲得することは、同じコインの裏返しです。

ビルダーにとって、この規律は具体的です。エージェントが実行できる、元に戻すことのできないすべてのアクションをリストし、それぞれにゲートをかけます。タスクごとにスコープされた権限、許可リスト上のネットワーク、人間の背後で取り消せないアクション、エージェントが編集できないログ。

モデルがデプロイするのに十分な賢さがあるかどうかを尋ねることはもうありません。その後何をしたか証明できるか尋ねます。 2 番目の質問は、実際に私を安全に保つ質問です。

機能は、評価証拠、範囲指定されたアクセス、実行時の境界、監査証跡などの条件付きで提供されます。それらをルーチンエンジニアリングとして導入することで勝利します。