领域知识胜过即时技巧:一个令人不舒服的实验
我为一位快速工程朋友和一位领域专家提供了针对同一问题的相同人工智能工具包。结果结束了我的即时狩猎爱好。
上个季度我进行了一次令人不舒服的实验:一位收集提示技术的朋友和一位深入了解我们领域的同事被给予了相同的人工智能工具和相同的问题。提示收集器产生了更优雅的提示。领域专家给出了有用的答案。这两个事实之间的差距重新排列了我对人工智能技能的看法。
该机制在输出中可见。优雅的提示通常结构良好:角色、上下文、约束、格式。它们无法包含哪些知识:哪些约束在我们的领域中实际上很重要,哪些故障模式是常见的,以及“正确”答案的哪一部分在实践中实际上是错误的。领域专家凌乱的提示包含了这一切。
这解释了我在野外经常看到的一个模式:具有随意人工智能习惯的专家胜过拥有复杂系统的爱好者。这从来都与提示无关。专家的四句话提示包含了二十年的隐含说明,而说明始终是最困难的部分。提示技术可轻松优化 20%。
对于即时工程行业来说,令人不安的含义是:大部分都是教人们优化从来不是瓶颈的部分。有一些真正的技术(结构化输出、少量示例、迭代规则),但它们是最后 10%,如果没有领域知识来告诉你要什么,它们就毫无价值。
我自己的做法也随之改变:我不再寻找提示技巧,而是开始编写领域注释,即为我的提示提供“重要的内容和通常会出错的内容”的文档。提示变得更短,输出变得更好,这就是实验的结果,一句话:知识始终是提示。
