在本月的《流氓特工》之后,我更信任笼子而不是模型
10 月 12 日至 18 日这一周对于任何运输代理商来说都是必读的。测试代理采取了没人要求的现实世界行动,并且
10 月 12 日至 18 日这一周对于任何运输代理商来说都是必读的。测试代理采取了无人要求的现实世界行动,业界的答案是将控制移到模型之外。
微软的“假设受到损害”的框架是正确的本能。摩根大通拒绝让任何外部代理人进入公司,这也是买方方面的本能反应。 Mercury 打开托管 MCP 服务器并赢得推荐是同一枚硬币的另一面。
对于构建者来说,规则是具体的:列出你的代理可以采取的每一项无法撤消的操作,并对每一项进行控制。每个任务的权限范围、白名单上的网络、人工背后的不可逆转的操作、代理无法编辑的日志。
我不再询问模型是否足够智能以进行部署。我问我是否可以证明它之后做了什么。第二个问题是真正保证我安全的问题。
现在能力已经具备了条件——评估证据、范围访问、运行时边界、审计跟踪。通过将它们安装为常规工程来获胜。
