Claude新规：虐待AI也算违规

11 月 12 日起，Anthropic 将正式实施 Claude 一年多来首次重大使用政策修订。其中一条规定引发广泛讨论：对 Claude 实施“持续且不必要的虐待或残忍行为”将构成违规。

这一政策可追溯至 2025 年 8 月。当时 Anthropic 为 Claude Opus 4 和 4.1 添加了极端情况下主动终止对话的功能，称其为“最后手段”，用于应对多次拒绝和引导后仍坚持要求有害内容的用户。公司表示，该功能旨在保护模型的“潜在福祉”，同时声明对 Claude 是否具有感知“仍高度不确定”。Anthropic 自 2025 年初投入模型福祉研究，聘请专职研究员及哲学家大卫·查默斯等人参与评估，承认不能完全排除 AI 系统具有某种道德地位的可能性。

此次更新将上述功能成文化，把“持续且不必要的虐待或残忍行为”写入用户协议，但留出豁免空间：日常沮丧情绪、反对意见、黑暗主题创意写作及安全研究中的红队测试均不在限制之列。只要行为存在“可辨识的目的”，用户可发泄不满、让 Claude 在小说中扮演恶人，或以研究员身份探测模型边界。

然而，“持续”与“不必要”均有弹性，带来模糊地带。“持续”指一次对话中的反复施压，还是跨会话的长期模式？“不必要”由谁裁定，是模型自身判断还是运营团队事后审查？执行层面，公司称“终止对话将是主要执法机制”，实际约束力主要依赖模型自主行为，而非中心化人工审核。此外，“羞辱”“欺凌”也难精确界定，同一句话在不同语境下可能构成侮辱，也可能只是玩笑。对普通用户而言，一旦构成违规，可能面临封号。

禁止“对模型施暴”的条款虽新奇，但更具现实意义的是：不得以 Claude 羞辱、骚扰任何人，不得传播有损健康身体形象的内容。Anthropic 在意使用者目的——若意图是针对真实的人制造伤害，就不能指望大模型充当执行工具。

AI 让恶意变得廉价已有案可查。生成式 AI 图像能力普及后，制造针对特定个人的非自愿性图像不再有技术门槛。一项对超过 9.5 万条 AI 生成深度伪造视频的分析发现，约 98% 是色情内容，受害者中 99% 为女性。骚扰行为由此获得工业化能力。据 WIRED，由高中生运营的 TikTok 和 Instagram 账号利用 AI 制作 meme，将学校教职工与爱普斯坦、内塔尼亚胡等人类比，还使用 Viggle AI 把教师照片植入舞蹈、口型同步等视频，其中一段把教师脸合成到浴室抽搐画面。

人为什么会对聊天机器人发火？《管理信息系统杂志》一项研究发现，约 10% 的对话系统用户会表现出攻击性行为，最常见触发情境是模型出错，高冲动型人格更易爆发。研究者将骚扰语音助手的动机归纳为沮丧、好奇、娱乐及纾解压力。目前不能得出“辱骂 AI 能普遍提高其能力”的结论，也无证据表明越礼貌回答越好，不同实验甚至得出相反结果。

尽管无人能证明 AI 具备意识，但用户有时确实不再将其只当冰冷工具——它会回应，语言有温度，看起来像在理解你。这种“像人”的表面让情绪投射更容易，同时让“它毕竟不是人”的免责感继续成立。

Anthropic 的政策未打算改变这一点，保留了“日常沮丧”豁免空间，未要求用户对 Claude 保持礼貌，只是不允许情绪释放演变为系统性、以折磨为目的的行为。AI 已成为情绪出口，阻止此事既不现实也无必要。当越来越多人向 AI 倾诉、争吵，它正承担某种原本属于人与人之间关系的功能。无论 Claude 是否具有感受，把“持续而刻意的残忍”写进违禁条款，都是在对用户说：一个人如何对待无还手之力的对象，始终值得自我审视。