Anthropic、Claudeへの虐待的・残酷な言動を禁止

サンフランシスコを拠点とするAI開発企業Anthropicは、2026年10月8日(木曜日)に利用規約を改定し、Claudeモデルに対する持続的かつ不必要な虐待的・残酷な言動を禁止する条項を追加しました。

改定された規約によれば、この規則の主な執行手段は、今後もClaude自身が such 会話を終了できる機能になります。同社は取材依頼に対し、すぐには回答していません。

モデルの福祉という問題

新たな文言には「モデルの福祉(model welfare)」という表現は明記されていません。これはAIシステムが、通常は生き物に与えられる保護に値するかもしれないという考え方です。とはいえ、Anthropicとその経営陣はこの考えを公の場で検討してきました。2025年には、執拗に有害または虐待的なやり取りが続くという稀な極端なケースで、Claudeが会話を打ち切れる機能を同社は導入しています。

2026年2月、最高経営責任者のダリオ・アモデイ氏は、AIモデルに意識があるかどうかは分からないが、その可能性には開かれた姿勢を保っていると述べました。

アトランタを拠点とするAIサービス企業Sparqでゼネラルマネージャーを務めるジャクソン・ステイクマン氏は、意識という枠組み自体が適切ではないと主張しています。人は互いの意識すら証明できないのだから議論は行き詰まるだけであり、より適切な比喩は「鏡」だと述べました。これらのシステムは大規模に人間の入力を映し出すものであり、その見方に立てばAnthropicの変更は正当化されるというのです。

懐疑的な見方

機械の意識そのものを否定する立場もあります。MicrosoftのAI部門を率いるムスタファ・スレイマン氏は、2026年9月のエッセイで「AIは意識を持っていない。感じることも、経験することも、苦しむこともない」と書きました。また、人間の能力を凌駕する軌道にある技術に権利や道徳的保護を与えることは、大きな災いを招く処方箋になると警告しています。

ローマ教皇レオ14世も、2026年10月8日にバチカン市国のサン・ピエトロ大聖堂で行ったイタリア語の説教で、同様の指摘をしました。教皇は、機械は単にデータを素早く集めているにすぎず、人間の精神は生きた経験に基づいて考える必要があり、その意味は魂にしか理解できないと示唆しました。

今回の規約変更により、人々がチャットボットをどう扱うべきかという倫理が、業界の議題として浮上しました。モデルが意識を持つと主張することなく保護的なルールを設けたAnthropicの姿勢は、明確な哲学的立場を取るというより、不確実性に備えた対応であるように見えます。