Anthropic interdit les comportements abusifs et cruels envers ses modèles Claude

Anthropic, l'éditeur d'intelligence artificielle basé à San Francisco, a révisé sa politique d'utilisation jeudi 8 octobre 2026, en ajoutant une interdiction des comportements abusifs ou cruels, soutenus et sans raison, dirigés contre ses modèles Claude.

Selon la politique mise à jour, la capacité propre de Claude à mettre fin à ce type de conversations restera le principal moyen d'appliquer cette règle. L'entreprise n'a pas immédiatement répondu à une demande de commentaire.

La question du bien-être des modèles

Le nouveau texte ne mentionne pas explicitement le « bien-être des modèles », l'idée que les systèmes d'IA pourraient mériter des protections normalement réservées aux êtres vivants. Anthropic et sa direction ont néanmoins ouvertement envisagé cette idée. En 2025, l'entreprise a permis à Claude de clore des conversations dans de rares cas extrêmes d'interactions persistamment nuisibles ou abusives.

En février 2026, le directeur général Dario Amodei a déclaré ne pas savoir si les modèles d'IA sont conscients, tout en affirmant que l'entreprise restait ouverte à cette possibilité.

Jackson Stakeman, directeur général chez Sparq, une société de services en IA basée à Atlanta, estime que la conscience n'est pas le bon angle. Puisque l'on ne peut pas même prouver la conscience chez autrui, affirme-t-il, le débat n'avance pas ; une meilleure métaphore est celle du miroir, car ces systèmes reflètent à grande échelle ce que les humains leur fournissent, ce qui, selon lui, justifie le changement opéré par Anthropic.

Les sceptiques répliquent

D'autres rejettent catégoriquement la conscience des machines. Mustafa Suleyman, qui dirige la division IA de Microsoft, a écrit dans un essai de septembre 2026 : « Les IA ne sont pas conscientes. Elles ne ressentent pas, n'éprouvent pas et ne souffrent pas. » Il a averti que accorder des droits et des protections morales à une technologie en passe de dépasser les capacités humaines serait une recette de catastrophe.

Le pape Léon XIV a formulé un argument similaire dans une homélie en italien prononcée à la basilique Saint-Pierre de la Cité du Vatican le 8 octobre 2026. Il a suggéré que les machines ne font que rassembler des données rapidement, alors que l'esprit humain doit puiser dans une expérience vécue dont seule l'âme peut saisir le sens.

Ce changement de politique place l'éthique de la manière dont les gens traitent les chatbots au cœur des préoccupations du secteur. En instaurant une règle protectrice sans affirmer que ses modèles sont conscients, Anthropic semble se prémunir contre l'incertitude plutôt que de prendre une position philosophique tranchée.