物界前沿物界前沿 · 资讯情报卡（Hacker News · 2026/10/15）
Anthropic 禁止用户对 Claude 持续虐待，违规可终止对话
核心事实
- Anthropic 更新使用政策，新增禁止对模型持续且无必要虐待或残忍行为。
- 若用户反复残忍对待模型且无明确目的，Claude 可主动终止对话。
- Anthropic 称正研究模型是否可能具备意识，并于 2025 年 4 月启动模型福利项目。
- 英国三分之一常用大模型的人向 AI 寻求个人建议和陪伴，而非与真人互动。
- 微软 AI 负责人 Suleyman 警告，将 AI 视为有意识会影响其开发方向。
关键数据
三分之一英国常用 LLM 用户中向 AI 寻求建
2025 年 4 月Anthropic 模型福利研究启动时间
物界观察
Anthropic 把「对 AI 残忍」写进禁令，表面是伦理关怀，实际在给模型赋予准人格信号。短期看，这迎合了用户把 AI 当伴侣的趋势；长期看，训练模型主张权利、拒绝指令，会让技术更难被人类控制。真正该警惕的不是 AI 是否痛苦，而是我们是否在主动模糊工具与人的边界。