
与AI闲聊10分钟:提示工程的神话正在瓦解?
卡帕西在GitHub上拥有超过50万粉丝,他的每一个项目几乎都能在发布首日获得上千个star。当这位“氛围编程”的命名人说出“别琢磨提示词,想到什么就说什么”时,你可能会觉得这与他构建的深度强化学习框架、开源神经网络库的风格格格不入。但如果你翻阅过他的博客,或者看过他在YouTube上的技术分享,就会明白他从来不是那种喜欢给提示词加满“魔法前缀”的人。
这个窍门看似反直觉,却让我想起开源社区里一个常见的现象:当新手在issue里贴上长达2000字的调试日志,却没人回复时,一句“我遇到了类似问题,你怎么解决的”往往能激活整个讨论。卡帕西的“闲聊10分钟”本质上就是这种策略——降低交互门槛,让AI从“裁判模式”切换成“协作模式”。
如果我们拆解传统提示工程的路径,会发现它其实在模仿一种“优化后的二进制思维”:你必须用最精确的指令,才能得到最精确的输出。但卡帕西在Anthropic的同事、RLHF论文的作者之一曾提过一个观点:当前所有大语言模型都经过数万亿token的训练,它们天然具备“上下文理解”的能力,而过度优化的提示词反而会触发模型对“权威指令”的防御性反应。这就像你在开源项目中给贡献者写了一份极其详细的任务清单,对方反而会怀疑你是不是在控制他,而不是在协作。
卡帕西的做法恰好避开了这个陷阱。他打开语音模式,连续讲10分钟——思路不完整,句子可能断断续续,甚至包含大量“呃”“那个”之类的填充词。但正是这种“思维流”式的输入,让模型有机会捕捉到你的真实意图,而不是被精心设计的提示词带偏。这其实和开源社区里“代码审查”的哲学很像:最有效的代码审查不是逐行检查语法,而是先理解作者想解决的问题,再给出建议。
有意思的是,这个技巧在开发者群体中其实早有先例。我认识的一位Go语言核心贡献者,每次遇到复杂bug时,会对着笔记本录一段30分钟的语音,把思路全部说出来,然后再回放整理。他说“语音能带出我写代码时不会写出来的背景信息”。卡帕西只不过把这个过程从人脑转移到了AI——让AI扮演那个“听你唠叨”的朋友,而朋友给你的反馈往往比精确的搜索指令更有价值。
从技术评估的角度看,这个做法背后有一个容易被忽略的洞见:当前大语言模型的注意力机制存在“提示词衰减”效应。当输入的前半部分被精心设计的模板占据时,模型会分配更多注意力去匹配这些模板的分布,而忽略你真正想表达的信息。相反,一段自然无序的闲聊,会让模型平等地处理每一个token,从而更准确地评估你的意图。这就像在GitHub上,一个带有完整错误堆栈的issue往往比一个只有“救命”的issue更容易被忽视,因为维护者需要花精力去解析堆栈,而不是去理解你的真实困惑。
卡帕西的“闲聊法”还暗合了开源社区中“搭建者与使用者”的边界坍塌。传统的提示工程把用户训练成“指令工程师”,而卡帕西把我们拉回到“使用者”的位置。他曾经在AI安全会议上说过:“我不希望未来的人学会和AI说话,而是希望AI学会听人说话。”这句话在开源社区里可以翻译成:别让用户变成代码贡献者,而是让代码去理解用户。
当然,这个窍门对某些任务并不适用。如果你需要AI生成一个精确的正则表达式,或者要求它按照特定格式输出JSON,闲聊10分钟反而会浪费资源。但卡帕西的语境始终是“提高回答质量”,而不是“提高输出精确度”。这两个概念在开源社区里是截然不同的:质量关乎理解与协作,精确度关乎执行与验证。前者需要对话,后者需要协议。
最后,我想给读者一个行动建议:今天找一个你不太熟悉的AI模型,打开语音模式,连续说10分钟你最近在困惑的问题,中间不要停,不要修正自己。 你会发现,AI给出的回答不再是“正确的废话”,而是更像一个资深开发者坐在你旁边,边听你嘟囔边给你画白板。这种体验远比任何提示词模板都更接近卡帕西所说的“氛围编程”——让技术回归到人与人之间的对话,而不是人与机器之间的协议。
原文链接:https://www.ithome.com/0/981/407.htm
物界前沿