2026年11月2日
5 分钟阅读
Opinion
自己笔记的AI总结老是说谎，我终于明白为什么了
总结并不是事实。这是一种压缩，而压缩会丢弃本来可以拯救我的部分。
我相信我的笔记应用程序为会议生成的一行摘要，然后对其进行了操作，但结果是错误的。这份摘要并非虚假，而是空洞：它保留了结论，并放弃了改变结论的警告。
这就是摘要的作用。他们用细节来换取长度，而他们放弃的细节通常是例外、条件、“除非”。当你决定某件事时，这些正是重要的部分。
所以我不再阅读摘要作为注释。我把它当作一个路标：“这个文件是关于 X 的”，而不是“这个文件说 X 是真的”。然后我在行动之前打开源代码。摘要赢得了点击；它不会赢得决定。
修复并不是一个更好的模型。这是一种习惯。我将采取行动的任何主张都会追溯到它的来源。如果摘要和来源不一致，则来源胜出，因为摘要是通过丢弃东西而构建的。
总结你自己笔记的人工智能是一个伟大的图书管理员，也是一个糟糕的见证人。将其视为第一个，而不是第二个。
常见问题：
问：那么总结就没用了吗？
答：回想一下，没有。对于决策来说，是的，直到您检查来源为止。
Q：为什么重要的部分会被删除？
答：压缩保留了共同点并消除了例外，这通常是承重细节。
问：如何安全地使用摘要？
答：作为指向文件的指针，不能替代在执行操作之前阅读它。