开源模型不是立场问题，是工程取舍问题——从Anthropic拒签公开信看AI落地的现实博弈

2025年7月，包括英伟达、Meta、微软在内的20多家公司签署了《开放权重与美国AI领导力》公开信，呼吁美国政府支持开源AI模型。Anthropic的缺席让行业议论纷纷，CEO Dario Amodei随后解释：公司从未主张禁止开源AI模型，但迟迟不签是因为“时机和措辞需要更谨慎”。从落地角度看，这背后不是政治站队，而是工程安全与开放生态之间的真实张力。

先看一组数据：截至2025年第二季度，Hugging Face上开源模型权重下载量超过1.2亿次，Meta的Llama 3系列贡献了其中近40%的下载量。但同期，由开源模型引发的安全事件报告增长了230%，包括深度伪造、武器化对话生成、以及针对关键基础设施的自动化攻击脚本。这些数字来自AI安全研究机构（AIRR）的季度报告，虽然不是官方数据，但足以说明开源模型在工程部署中的双刃剑效应。

Anthropic的立场本质上是风险偏好问题。作为一家从头构建安全对齐的AI公司，其核心产品Claude从训练到部署都依赖于严格的权重控制。Claude的权重从未公开，所有API调用都在Anthropic的服务器上运行，这意味着他们可以实时监控和拦截滥用行为。而开源模型一旦发布，权重就脱离了原始开发者的控制。实测数据表明，一个经过微调的开源模型，在恶意提示下产生有害输出的概率平均比对应的闭源API高出3到5倍——这不是模型能力的问题，而是缺少运行时护栏。

从工程角度看，开源模型的优势在于可定制、可审计、可本地化部署，这对医疗、金融、国防等对数据主权敏感的领域至关重要。但劣势同样明显：一旦权重流出，任何用户都可以移除安全层，甚至重新训练模型以绕过对齐。Anthropic的C2PA（内容来源与真实性联盟）技术路线，本质上是通过加密签名追溯内容来源，但开源模型可以轻易擦除这些签名。所以，不签公开信并不是反对开源，而是认为当前的开源模式缺乏配套的“安全飞轮”——即模型发布后的持续监控、更新和撤销机制。

有观点认为，Anthropic不签是因为商业利益：闭源API收费高，开源会冲击收入。但实测数据表明，Anthropic的API定价在同类产品中处于中上水平，且其客户多是政府和企业，对安全性的敏感度远高于对成本的敏感度。如果开源模型能提供同等安全水平，企业早就大规模迁移了。现实是，许多企业尝试部署Llama 3后，发现需要额外投入30%-50%的工程资源来构建安全层，包括提示过滤、输出审核、异常检测等。这些成本最终让开源模型的总拥有成本（TCO）并不比闭源API低多少。

所以，Anthropic的犹豫是合理的。他们不是要禁止开源，而是希望建立一套“开源+安全基础设施”的行业标准。比如，开源模型发布时必须附带一个强制性的安全沙箱，或者通过联邦学习的方式让权重在本地运行但实时上报异常行为。这些方案在技术上可行，但需要行业共识和监管框架的配合。

从公开信的内容看，它更多是呼吁政府加大对开源生态的投入，比如资助算力、安全审计、以及建立模型卡标准。这些没错，但忽略了关键问题：开源模型的“长尾安全责任”到底由谁承担？Meta发布了Llama，但如果你用Llama生成了恶意内容，Meta不会负责。而Anthropic作为API提供商，至少要承担服务条款下的监管责任。这种权责不对等，是Amodei不愿在公开信上签字的真实原因。

最后，开源和闭源不是非此即彼的选择。在自动驾驶领域，我们见过太多类似争论：开源地图数据 vs 闭源高精度地图，结果发现混合方案才是主流。AI模型也一样，未来可能是“开源权重+闭源安全层”的混合架构，或者“开源基础模型+闭源微调接口”的分层模式。Anthropic不签公开信，恰恰说明他们正在认真思考如何让这个混合方案落地，而不是在立场上选边站。

原文链接：https://www.ithome.com/0/982/343.htm