
把用户反馈变成 AI 原型,按这步走
上周三,销售转来两百条工单,问能不能按要不要进下周排期分一下。人工看要两小时,还容易漏。我带三十人团队,最怕把AI当玩具。这个方向值得做,但要能接进流程。我拿 Claude 做了一个反馈分流原型,流程不复杂,可以照抄。
任务是把用户反馈变成可检查的机器输出,再进产品看板。原型先做到能跑通判断、能被人复核。
先跑通一个最小流程。
选小切口。不要做“用 AI 做客户洞察”这种大题目,改成把一周反馈分成五类,需求明确、体验吐槽、配置咨询、疑似故障、暂不相关。类别要互斥,一重叠模型就懵。
准备 30 条样例。把工单导出成 CSV。CSV 就是逗号隔开的表格,Excel 能打开。字段只要编号、原文、来源。删掉客户名、电话、合同金额。隐私没处理,法务会卡你。
定成功标准。别写看起来准。可以定人工抽十条,至少九条方向没错;疑似故障不能漏;每条要有理由和建议动作。理由是模型为什么这么分,建议动作是下一步干什么。
打开 Claude 对话窗口,新建会话。输入框粘贴下面内容。
你是一名 B 端产品分析助手。请把每条反馈归入上面五类之一,输出 JSON,字段有 id、category、reason、action。只根据原文判断,不要编造。
再粘贴样例。发送后,你看到的应该是一组带花括号的条目。预期每条都有编号、类别、理由、动作。格式乱就补一句,请严格输出 JSON 数组,不要额外解释。
人工复核十条。在 Excel 加三列,模型判断、人工判断、是否一致。不一致先别骂模型,先看类别是否定义不清,或原文缺上下文。
接进排期。高优先级动作丢进看板,比如疑似故障转技术支持,需求明确进产品评审。不做这一步,AI 输出只是漂亮文字。
固化成周报。新反馈按同样格式丢进去,让模型输出摘要和分类表。先手动跑,稳定再自动化。我这几天在试 AI Agent,就是让程序自动拉数据、跑模型、写报告。新手先别上 Agent,先把 30 条样例跑明白。
新手容易踩几个坑。样例太少,三五条就把边界当真理。类别太像,比如体验吐槽和需求明确混在一起,没法排优先级。只看 Demo,不看生产可行性,客户说想要自动升降顶,AI 能总结需求,但结构、成本、供应链不会替你拍板。还有数据脏,日期格式错、重复提交、截图没转文字,清洗比模型更耗时。
优点很直接。快,一个下午能跑通;可检查,能拿人工复核结果说话;能接进现有流程。缺点也明显。模型不能替代产品判断,不能保证每条都对,涉密资料不能随便丢云端,输出需要人抽检。我用了大概一个月 Claude,体感是处理结构化反馈真省事,前提是反馈本身规整。
Andrew Ng 的 AI Engineering Skills Map 里有个判断,我挺认同,AI 工程要反复构建、检查、决定下一步。据说这套技能地图基于超过一万个职位分析,还访谈了不少专家。这件事要落到每条反馈接进排期。
如果能稳定输出分类结果,下一步可以试两件事。加一个置信度字段。置信度是模型对自己判断的把握程度,低置信度转人工,能减少误伤。把周报从聊天窗口挪到表格,给销售和客服用。再往后,才值得考虑云端 GPU、内部模型、Agent 编排。
接下来半年,能把模型输出接进团队流程,比只写提示词更值钱。
📌 本文编译自 Hacker News,原文:https://twitter.com/andrewyng/status/2098459474608672916
版权归原作者所有,本文为基于公开报道的编译与独立分析。
物界前沿