物界前沿物界前沿 · 资讯情报卡（CNBC Tech · 2026/10/11）
纳德拉呼吁为AI系统加装人类可控的紧急制动
核心事实
- 微软CEO纳德拉发文，主张高级AI系统应内置隔离机制与独立控制。
- 他提出应给AI配备紧急制动，授权人员可在任务中途暂停或关闭模型。
- 纳德拉建议将前沿闭源与开源权重模型视作内部风险来管理。
- 他列出可观测性原则，含模型多样性、可读操作记录与持续测试。
- 此前有Anthropic研究员离职，指责Anthropic与OpenAI拿生命冒险。
物界观察
纳德拉把AI安全从模型层拉到系统层，等于承认模型本身不可信，只能靠外部刹车和审计兜底。这对行业是信号：安全叙事正从对齐研究转向工程管控，谁先做出可验证的停机与披露标准，谁就能在监管落地前占住话语权。用户短期内看不到变化，但采购AI时该开始问一句：这系统能不能被叫停。