AI治理这行，纸面政策和技术机制哪个更值钱

被朋友安利了一个观点，说AI治理的本质是基础设施，不是文书工作。他甩给我一篇Greyling的博客，还有Lowenstein律所那份PDF，标题干脆就叫《AI治理不是政策，是基础设施》。我本来以为又是一堆合规空话，结果读完之后，职业病犯了，想从投资角度聊聊这个赛道到底怎么估值。

先说结论：我支持技术派。但作为一个管钱的，我更关心的是，这个「技术化治理」到底能不能落地，以及它对应的市场空间有多大。

实际问题：政策写完了，然后呢

我过去三个月密集接触了十几家做AI应用的公司，从做短剧的到做智能驾驶的，大家嘴上都说有AI治理方案。但你去问他们具体怎么治理的，十家有八家会给你拿出一份PDF，里面写满了「负责任的AI」「公平性」「透明度」这类词。这玩意儿管用吗？

我这边测下来，管不太用。这几天刚上手Claude Code，我特意拿一个合规场景试了试，用它搭了个小的模型审计流程，给一个文生图模型跑了几百个测试样本，看它在肤色、性别、年龄这些维度上有没有偏见。结果挺有意思：模型在某个特定风格的提示词下，输出明显偏向某一类人群。但如果我们只靠写政策，这个偏见永远发现不了。

这正是Greyling那篇帖子里说的核心：真正有效的治理建议，从来不是那些写最长政策的人给的，而是那些看得懂系统技术证据的人，比如工单、事件日志、模型输出分布。说白了，AI治理是工程问题，不是法律问题。

技术派的几个优点和缺点

我大概捋了一下，技术化治理这件事，作为投资标的看，有以下几个维度：

• 可验证性。技术治理能给出量化指标，比如偏见率、幻觉率、异常调用次数。这些是能进审计报告的，而纸面政策没法验证。

• 可自动化。我试下来，只要把监控埋点做好，大部分治理动作可以自动跑，不用等人来审。这对规模化是决定性的。

• 有复利效应。技术治理积累的是数据资产和工程能力，越用越值钱。政策文档写一百份也是零资产。

• 门槛高。这事需要真正懂模型的人来做，不是找个合规专员就能搞定的。人力成本高，市场供给稀缺。

• 前期投入大。要搭监控、做审计、建测试集，没个半年看不到效果。对初创公司来说，现金流压力很大。

• 标准不统一。各家模型、各家框架都不一样，治理工具很难标准化，这反而限制了市场扩展速度。

投资判断：看情况，但技术派是长期赢家

从资产配置角度看，AI治理这个赛道还处在早期，市场很散，没有明确的龙头。但我觉得，技术化治理的公司，它们的风险收益比明显优于纯做政策咨询的。原因是政策咨询的护城河太浅，AI模型本身都能写政策，凭什么要付费给你。而技术治理需要的是对模型内部机制的深入理解，这个壁垒短时间建不起来。

不过话说回来，不是所有AI应用都需要重治理。我一个做内部工具的朋友，他们的AI只是用来做文档摘要，压根不需要复杂的治理体系，一份简单的使用规范就够了。所以这个市场是分层的，轻治理和重治理是两套估值逻辑。政策派在轻场景还有活路，但在高风险场景，比如医疗、金融、自动驾驶，技术派是唯一选项。

我上周写过一篇Schneier框架下AI应用投资决策的帖子，当时觉得风险控制是加分项。现在想法有点变了，治理不是加分项，是入场券。没有技术化治理能力的企业，在强监管行业根本进不了场。

至于AI治理基础设施到底该由云厂商提供，还是独立第三方来做，我的判断是两条路线会长期并行：云厂商靠绑定算力和平台吃掉通用型需求，独立第三方则在垂直行业和定制化审计上找到生存空间。各有各的肉吃，也各有各的坑要踩，这就是早期赛道该有的样子。

---

本文编译自 Hacker News，原文：Do you think AI governance should be technically rather than paper policy? | Hacker News
版权归原作者所有，本文为基于公开报道的编译与独立分析。