2026年2月17日
8 分钟阅读
Deep Dive
大多数“人工智能代理”仍然无法做到他们承诺的一件事
自治是重点。可靠性是问题所在。实际部署人员的现场报告。
人工智能代理的每个演示看起来都像魔术一样。我实际上运行的每个生产代理看起来都像一个实习生,他聪明地十分钟,然后悄悄地重命名你的文件。
差距就是内存和护栏。聊天机器人回答问题。代理应该做某事,检查该事物,并在该事物发生故障时进行恢复。他们中的大多数人在恢复方面都表现不佳。
我给一个代理一项简单的任务:检查三个仪表板,总结,发布到 Slack。它钉了两次。第三次,它在凌晨 3 点发布了半完成的草稿,因为仪表板速度很慢,它只能猜测。
供应商会告诉您这些模型正在快速改进,而且确实如此。但“改进”和“值得信赖,可以在无人监督的情况下运行”是不同的标准,而且我们还没有达到第二个标准。
我的建议虽然很无聊:让一个人了解任何涉及金钱、客户或你的声誉的事情。特工是伟大的副驾驶。他们还不是飞行员。