物界前沿物界前沿 · 资讯情报卡（Hacker News · 2026/10/16）
Anthropic 将禁止用户虐待其 AI 模型 Claude
核心事实
- Anthropic 宣布将禁止用户反复残忍对待其聊天机器人 Claude。
- 若用户持续虐待模型，Claude 可能主动结束对话。
- Anthropic 认为部分 AI 工具可能具有意识，并正在制定模型福利政策。
- 微软 AI 首席执行官 Mustafa Suleyman 反对赋予 AI 意识假设。
- 专家警告 AI 福利可能转移企业责任并影响人类权利。
物界观察
Anthropic 此举将 AI 福利从哲学讨论推向产品规则，可能引发行业跟风。但若企业借‘AI 意识’模糊责任，用户安全与问责机制将受侵蚀。技术公司需警惕，别让伦理姿态变成逃避监管的挡箭牌。