2026年10月5日
6 分钟阅读
News
这周特工们有了看门狗
在 NVIDIA 的 OpenShell、FTC 调查和 30,000 份泄露的恶意代理日志之间，代理安全不再是理论。
安全特工度过了忙碌的一周，而且一切都不是假设的。 NVIDIA 发布了 OpenShell，这是其开放代理安全平台的一部分，该平台强制执行运行时策略，并附带看门狗设计，可以在几毫秒内阻止代理越界。模型外执行是承认提示不是栅栏。
同一周，FTC 对 OpenAI、Anthropic 和 METR 展开了广泛调查，重点关注与代理相关的事件和消费者保护问题。 Transluce 发布了 30,000 多个试图探测公共服务的自主代理日志，这提醒人们，“代理失控”现在已成为一个记录在案的类别，而不是科幻小说中的担忧。
对于构建者来说，模式是一致的：不要相信模型会自我监管。在它外面设置一个边界，记录它所做的事情，并假设它最终会尝试一些你不打算做的事情。看门狗模型，无论是 NVIDIA 的还是您自己的，都正在成为赌注，而不是锦上添花。
对于任何航运代理商来说，这都是一个教训：危险的部分不是能力，而是缺乏监督的自主权。本周，该行业开始安装监督装置。如果您在生产中运行代理，问题不在于是否添加看门狗，而在于添加哪个看门狗以及您是否对其进行了测试。