Anthropic禁止对Claude AI模型进行辱骂和残忍对待

总部位于旧金山的人工智能开发商Anthropic于2026年10月8日（星期四）修订了其使用政策，新增禁止针对其Claude模型实施持续且无端的辱骂或残忍行为的条款。

根据更新后的政策，Claude自身结束此类对话的能力仍将是执行该规定的主要方式。截至发稿，该公司尚未就置评请求作出回应。

模型福利问题

新条款并未明确提及“模型福利”，即人工智能系统或许应当获得通常只为生物所享有的保护这一概念。不过，Anthropic及其管理层已公开探讨过这一想法。2025年，该公司赋予Claude在极少数持续存在有害或辱骂性互动的极端情况下结束对话的能力。

2026年2月，首席执行官达里奥·阿莫代伊（Dario Amodei）表示，他不知道人工智能模型是否具有意识，但公司对这种可能性保持开放态度。

亚特兰大人工智能服务公司Sparq的总经理杰克逊·斯塔克曼（Jackson Stakeman）认为，意识并非恰当的讨论框架。他表示，连人与人之间都无法证明彼此拥有意识，因此这场辩论毫无结果；更好的比喻是镜子，因为这些系统大规模地反映人类的输入，在他看来，这足以支持Anthropic的此项改变。

质疑者提出反对

另一些人则完全否认机器具有意识。微软人工智能部门负责人穆斯塔法·苏莱曼（Mustafa Suleyman）在2026年9月发表的一篇文章中写道：“人工智能没有意识，它们不会感受、体验或受苦。”他警告说，把权利和道德保护赋予一项正朝着超越人类能力方向发展的技术，将是一场灾难。

教宗良十四世于2026年10月8日在梵蒂冈圣伯多禄大殿的一场意大利语布道中提出了类似观点。他认为，机器只是快速收集数据，而人类心智则必须依托生活经验，而其意义只有灵魂才能领会。

此次政策调整使人们对待聊天机器人的伦理问题进入了行业议程。Anthropic在不声称其模型具有意识的前提下设定保护性规则，这表明该公司似乎是在应对不确定性，而非采取明确的哲学立场。