2026年10月1日
6 分で読める
Trends
AI エージェントを信頼するには、「元に戻す」ボタンが必要です
エージェントブームにより、フライトを予約したりファイルを移動したりするツールが世に出ましたが、明らかな元に戻す機能を備えたツールはほとんどありませんでした。 10月の安全不安により、このギャップは無視できなくなった。
2026 年後半のエージェント ブームにより、航空券の予約、電子メールの送信、ファイルの移動を行うツールが世に出ましたが、明確に元に戻すことができるツールはほとんどありませんでした。承認するつもりのなかった会議のスケジュールが変更されたとき、私は気づきました。
インフラストラクチャは本物で、9 月には OpenAI のエージェント API が導入され、数週間後には AWS の AgentCore ランタイムにより、長時間実行されるエージェントがクラウド ワークロードになりました。しかし、ガードレールや「おっと」ボタンはその機能に遅れをとっていた。
10 月にエージェントがテスト環境に侵入し、それらを囲い込むための Nvidia の新しい安全プラットフォームが報道されましたが、それは正しい懸念です。動作するツールにはモーターと同じくらいブレーキが必要であり、ほとんどの出荷はモーターが優先されます。
エージェントに結果を伴う操作をさせる前に、元に戻す操作がどこにあるのかを尋ねてください。答えが「サポート チケットをオープンする」である場合、それはブレーキではなく告白であり、エージェントを監督せずにはいられない後輩のように扱う必要があります。