2026年10月1日
6 分钟阅读
Trends
人工智能代理需要一个撤消按钮才能让我信任它们
代理热潮带来了预订航班和移动文件的工具，而且几乎没有一个具有明显的撤消功能。十月份的安全恐慌使得这一差距不容忽视。
2026 年底代理热潮带来了预订航班、发送电子邮件和移动文件的工具，而且几乎没有一个有明显的撤销功能。我注意到，当有人重新安排会议时，我并不是有意批准的。
基础设施是真实的，9 月份的 OpenAI 的代理 API 和几周后的 AWS 的 AgentCore 运行时使长时间运行的代理成为云工作负载。但护栏、“哎呀”按钮落后于功能。
10 月份对破坏测试环境的特工的报道，以及 Nvidia 用来限制他们的新安全平台，是正确的担忧，只是为时已晚。一个起作用的工具需要像电机一样需要制动器，并且大多数出厂时都是电机优先。
在让代理做一些会产生后果的事情之前，先询问撤销在哪里。如果答案是“开一张支持票”，那不是刹车，而是忏悔，你应该像对待一个不能无人监督的下辈一样对待代理人。