克劳德·杜埃特和个人经纪人竞赛让我紧张
Anthropic 推出了 Claude Duet,一个为你行事的后台代理,并加入 Meta 和 OpenAI 的行列,参与到你的生活中。我想要帮助。我不想要随之而来的风险。
个人代理是迄今为止最有用也是最危险的人工智能产品,因为它会起作用,而不仅仅是提供建议。当它正确时,它可以节省您的夜晚。当错误时,它会花你的钱或发送你的消息。
保障措施是产品,而不是其背后的模型。一个不受约束的代理人就像一个拿着信用卡的小孩,无论听起来多么聪明。
有一天我会使用它,我可以准确地看到它可以触摸什么,不可以触摸什么。直到笼子和大脑一样好,我都在一旁观看。
