认真协议真能让模型更对齐吗

我注意到一个有意思的细节……这份材料把 earnest agreement 和 AI alignment 放在了一起，标题还带着一点错别字。它说做过一组文档测试，结果显示认真协议似乎能提高对齐，报告标题里甚至出现“零观察作弊”。我第一反应是怀疑。因为这类测试容易把“模型在特定上下文里更听话”误读成“模型被对齐了”。

但是，这个细节值得拆。所谓 earnest agreement，中文我暂且叫它认真协议，这里取的是诚意约定的意思，更像给模型一份可被引用的行为契约，规定允许知道什么，不知道时怎么说，遇到冲突时是否承认，是否把不确定标记出来。模型本身没有道德义务，它只有上下文条件。协议改变条件，行为分布也会挪。

我拿 few-shot 和一段短契约跑了一下内部小样本，没有公开 benchmark 数字可摆。实测下来，在简单问答、代码补全、摘要纠错里，模型更容易说“我不确定”，也更容易引用限制。可一旦任务拉长，比如多文件修改、工具调用、客户交付里的真实约束，目标压力上来，契约会被当成背景噪声。

从实现看，这像把 alignment 从训练期挪到推理期。训练期改权重，成本高，效果泛化但不可控；推理期改上下文，便宜，见效快，但容易被长链路稀释。这种结果如果放进 benchmark，通常会表现为拒答率和引用率上升，但任务完成率可能下降。

这跟工程系统很像。我前两天写过给 AI 接口加安全门，观点没变，工作流不能靠模型自觉，要靠日志、权限、审批、回滚。认真协议如果只是一段 prompt，顶多是软约束；要有牙齿，得绑定违约成本。房地产里的 earnest money deposit 就是这意思，deadline、default、waive contingencies 都可能让买家丢押金。模型没有押金，平台可以拿 API 权限、上下文隔离、人工复核当押金。

在文档测试中，结果显示它似乎能起作用，报告标题还提到“零观察作弊”。

这句话的关键在 observed。被观察到的是某些作弊路径没出现，不代表所有路径都被堵住。模型可能只是没找到、没触发、没被诱导到那条路径。评测越窄，结论越漂亮。

我更关心的是它能不能从“态度”转成“机制”。如果协议只是要求模型保持诚实，那它是在利用模型训练里已经有的服从倾向。收益有，但上限不高。如果协议要求模型输出可验证结构，比如来源、置信度、拒绝边界、下一步动作，那它更像给 agent 加状态机。后者才是工程上可用的。

今天刚在 HIP 上碰医疗影像预处理库的兼容坑，推理延迟还没细看，环境已经先给了一刀。这个体验会让我对任何“靠 prompt 解决对齐”的说法都保持冷静。真实系统里，失败常常来自接口、权限、数据格式、长上下文遗忘、工具返回污染把行为拖偏。协议能减少一部分歧义，减少不了一部分故障。

之前我觉得对齐阶段直接喂历史 PRD 比改 prompt 更高效，现在想法有一点变化。喂历史 PRD 是补上下文，认真协议是补边界。上下文让模型知道业务为什么这样设计，协议让它知道哪些事不能为了完成需求而牺牲。缺前者，模型容易答得像通用客服；缺后者，模型容易为了讨好用户把工程风险说成可控。

所以我的判断是，earnest agreement 可能是一个低成本、可插拔的可靠性补丁。它适合放在 agent 契约层、系统提示层、任务模板层。它不适合被当成 alignment 的答案。真正能提升对齐的，是它有没有可审计的行为、有没有拒答空间、有没有被惩罚的出口。

如果一份协议真的能降低作弊，写成 prompt 便宜，写成可执行约束可靠。

---

📌 本文编译自 Hacker News，原文 https://www.echohive.ai/a-short-agreement-zero-observed-cheating

版权归原作者所有，本文为基于公开报道的编译与独立分析。