今月の最良のエージェント安全アイデアはカーネルにあります

GTC ベルリンで、NVIDIA は、最小限の特権アクセスを持つカーネル レベルのサンドボックスでエージェントをラップするリファレンス アーキテクチャである OpenShell について説明しました。エージェントを信頼する代わりに、エージェントが試行できることさえ制限されます。

今日のエージェントの安全性のほとんどは、「注意してください」というプロンプトです。それは願望であって、コントロールではありません。カーネル サンドボックスは壁です。エージェントは、許可されていないものを物理的に読み取ることができません。

これは、すべてのエージェント フレームワークが模倣すべきパターンです。 OS によって強制されたアクセス許可は、モデルが圧力を受けて無視する可能性のある命令よりも長く存続します。

ファイル、メール、お金に関わるエージェントを導入する場合、ベンダーに尋ねるべき質問は単純です。サンドボックスはどこにあり、誰がサンドボックスを拡張できるのかということです。