人工智能代理仍然不能做什么（一年尝试委派的笔记）

我花了一年的时间尝试将工作实际委托给人工智能代理：真实的任务、真实的截止日期、真实的后果。演示不是假的；而是真实的。其中的任务确实完成了。演示隐藏的是边界的形状，事实证明，在我尝试过的每个代理中，边界的形状都非常一致。

边界的第一边：智能体未能实现完成情况不明确的目标。 “清理这个代码库”肯定会产生错误的重组，因为没有规范，而且代理无法向办公室询问可能出现的问题。授权的工作完全按照预先定义的完成程度进行。大多数知识工作并非如此。

第二面：代理在抵制枚举的上下文中失败。预订航班是可枚举的（网站、表格、确认）。与一个心情不好的人重新谈判合同则不然。失败不是能力；而是失败。真正的上下文包含的信息永远不会进入任何提示，并且代理不知道它不知道什么。

第三方面是安静的方面：代理失败的结果。他们会以与正确的前提相同的信心在错误的前提下采取行动，因为他们的循环中没有任何东西感觉有风险。我构建的每一个真正的委托系统最终都会在不可逆转的行动发生时增加一个人工检查点，不是因为代理经常犯错，而是因为当它犯错时，直到损坏之前都没有信号。

这一切都不是解雇；这一年还在可枚举和可定义区域中取得了真正的胜利，这比怀疑论者想象的要大。但诚实的边界地图比演示更重要，因为失败的代表团并不是能力问题。它们是规范问题，无论模型改进多少，都无法为您编写规范。