我的代理人自信地订错了航班。收据是授权的一课
我向人工智能代理提供了我的旅行偏好和预算,然后让它预订。它完美地遵循了每一条规则,但仍然以规则未涵盖的方式犯了错误。
设置感觉很仔细。我像政策文件一样写下了我的偏好:靠窗座位、不准红眼、更喜欢三小时内直达、每次旅行的预算上限、忠诚度计划。我给了代理人一张低限额的专用旅行卡。然后我让它预订我十月的旅行,同时我看其他东西。每条规则都得到遵守。旅行还是错了。
它预订了什么:在我首选的航空公司上,在预算之内,直达的靠窗座位。另外:活动前一天的出发日,我在另一次单独的对话中提到了这一点,因为我在一个帖子中提到了“14 号”,在另一个帖子中提到了“会议”,而特工以字面意思的临时工的方式解决了冲突。这次航班非常适合我不再进行的旅行。
这就是困扰我的地方,但这不是错误。当我自己犯了这个错误时,我会产生一阵怀疑——当我点击“购买”时,感觉有些不对劲。特工没有感觉到这种摩擦。它以与明确指令相同的信心来执行模糊指令的解决方案。信心并不是正确的信号;而是正确的信号。这是一个渲染选择。
解决办法并不是制定更明智的规则。我尝试编写更多规则,并获得了一份文档,特工在进入新角落时更严格地遵循该文档。有效的是检查点:代理人现在起草,我批准,然后预订。人类判断的一键点击就无法返回。全自动化的梦想在大多数流程设计的同一个地方破灭了——在交接处。
我还是用代理吧它节省了 90% 真正机械化的旅行预订的实时时间。但我不再问代理人是否足够好,值得信任,而是开始问哪些决定值得检查点。显然,航班的答案就是其中之一。您的用例的答案可能也是之一。
