当我们讨论AI可靠性时,其实在讨论组织管理
社区讨论 · 政策

当我们讨论AI可靠性时,其实在讨论组织管理

高总高总7月26日2026/07/26 59 浏览

这篇文章最有价值的信息是:OpenAI在2026年7月25日发生全球性服务中断,ChatGPT、API和Codex编辑器全线瘫痪超过1小时,影响9亿周活用户和超过100万企业客户。这已经是连续第17天出现服务异常,而背后是AI基础设施可靠性严重滞后于业务扩张的现实。

作为一个在商汤带过AI平台团队、管理过100多工程师的技术管理者,我第一反应不是去追究OpenAI工程师的代码bug,而是思考:一个年化营收数百亿美金的公司,为什么连最基本的SLA都守不住?这不是技术问题,是组织问题。

短期看,这是技术栈规模扩张后的必然阵痛。

我算过一笔账:OpenAI目前支撑9亿周活用户,API调用量可能达到每天数百亿次。这种量级下,任何微小的故障率都会被放大成灾难性事件。但更关键的是,他们的技术栈正在快速从“研究型”向“产品型”转型。研究型团队的运维文化是“能跑就行”,产品型团队需要的是“99.99%可用性”。这两种文化在同一个组织里碰撞,必然导致基础设施跟不上业务速度。

我们团队曾经遇到过类似情况:当用户量从百万级跃升到亿级时,原本的微服务架构、监控告警、容量规划全都失效。不是技术不行,是组织没有建立对应的工程效率体系。OpenAI现在的问题,我猜是——

第一,缺少独立的基础设施SRE团队。很多AI公司把SRE和研发混在一起,让算法工程师自己维护线上服务。这就像让厨师自己修炉灶,紧急时肯定优先炒菜,忘了看火候。

第二,不重视灰度发布和回滚能力。连续17天异常,说明每次修复都没做彻底,或者没有建立有效的回滚机制。我猜他们可能在用“快速迭代”的思路处理线上问题,结果越修越糟。

第三,缺乏对“失败模式”的预演。AI服务有独特的脆弱性:模型推理的延迟抖动、GPU集群的故障切换、API网关的流量整形。这些不是传统互联网服务能直接复用的经验。OpenAI的工程师们可能还在用“CPU时代”的思维做容量规划。

长期看,这暴露了整个AI行业的一个结构性风险:基础设施的可靠性正在成为制约AI商业化的核心瓶颈。

我注意到一个数据:OpenAI年化营收已经超过百亿美元,但客户开始因为可靠性问题考虑竞品。这不是小事。企业客户不会因为你的模型更聪明就容忍天天宕机,他们会用脚投票。如果OpenAI不能在未来6个月内解决SLA问题,那些已经深度绑定的企业客户也会开始做多供应商策略,把一部分流量切到Claude、Gemini或者国内的大模型上。

从组织管理角度,我认为OpenAI应该做三件事:

第一,成立一个独立的基础设施工程部,直接向CTO汇报,而不是挂在某个产品线下面。这个团队要拥有“否决权”和“停服权”,当系统风险超过阈值时,可以强制暂停新功能上线。这个ROI算过没有?一次1小时宕机可能损失数千万美元,一个独立的SRE团队成本远低于这个数字。

第二,建立“可靠性债务”清单。每个季度评估一次,把技术债量化成工程工时,让管理层看到哪些地方需要补课。我见过太多团队只盯着新功能开发,把基础设施投资往后推,最后变成“所有服务都在跑,但随时可能挂”。

第三,引入“混沌工程”实践。在测试环境模拟数据中心故障、网络分区、GPU节点掉线,训练团队在极端情况下的应急响应能力。这不是大公司才配做的事,创业公司更该做,因为你们没有冗余的人力去救火。

给读者一个行动建议:

如果你在AI公司做技术管理,或者正在考虑采购AI服务,请立刻做一次“基础设施可靠性审计”。检查你的团队有没有独立的SRE角色,有没有灰度发布流程,有没有自动化的故障恢复机制。如果这些都没有,下一个连续17天出问题的,可能就是你。

不要把AI可靠性当成一个“以后再说”的问题。当你的客户开始因为你的宕机失去业务时,他们不会给你第二次机会。

原文链接:https://www.tmtpost.com/8079667.html

0 条回复

?
Ctrl + Enter 快速回复
还没有回复,来抢沙发吧