看得见和管得住，其实隔着两层

AI 使用追踪与管控这类产品，眼下大多数只做完了前半截。追踪是有了，管控还停在名字上。

上个月帮一个客户梳理 AI 治理这块，他们买的工具能拉出明细：谁在什么时候调了哪个模型、大概用了多少量、走的是哪个入口。报表很干净，月度汇报直接能贴。我问了一句，如果有人把客户合同原文贴进对话框，系统拦不拦。会议室安静了几秒，然后有人说，这个目前是靠员工自觉。

这就是分水岭。之前我看过一套实验室的识别管控系统，它的说法我记得很清楚，跟普通监控的本质区别是「识别之后有管控」——识别到不规范操作，会预警、纠偏、卡住流程节点、留痕、参与评分，五步走完才算闭环。对比之下，只负责录像回放的摄像头装了十年也没解决问题。企业里的 AI 使用管控是同一个道理。调用记录、成本对账、链路追踪，这些都属于看得见；权限控制、人工兜底、安全闸门，才是管得住。素材里讲企业 AI 编排的那篇也提到这层，可观测性和评估体系要跟权限、闸门放在一起看，拆开就没什么用。

我的判断是，追踪卖给合规部门，管控卖给业务部门，前者有预算，后者才有价值。现在大部分产品还在卖前者，客户也乐得先交个差。真出事的时候，报表救不了人。