Anthropic vieta i comportamenti abusivi e crudeli verso i suoi modelli Claude

Anthropic, l'azienda di sviluppo dell'intelligenza artificiale con sede a San Francisco, ha rivisto la propria politica d'uso giovedì 8 ottobre 2026, aggiungendo il divieto di condotte abusive o crudeli, protratte nel tempo e senza motivo, rivolte ai suoi modelli Claude.

Secondo la politica aggiornata, la principale modalità di applicazione della regola resterà la capacità di Claude di interrompere autonomamente queste conversazioni. L'azienda non ha risposto immediatamente a una richiesta di commento.

La questione del benessere dei modelli

La nuova formulazione non menziona esplicitamente il "benessere dei modelli", ovvero l'idea che i sistemi di IA possano meritare tutele normalmente riservate agli esseri viventi. Tuttavia, Anthropic e i suoi vertici hanno apertamente considerato questa ipotesi. Nel 2025 l'azienda ha dato a Claude la possibilità di chiudere le conversazioni in rari casi estremi, quando le interazioni sono persistentemente dannose o abusive.

Nel febbraio 2026, l'amministratore delegato Dario Amodei ha dichiarato di non sapere se i modelli di IA siano coscienti, ma che l'azienda resta aperta a questa possibilità.

Jackson Stakeman, direttore generale di Sparq, società di servizi di IA con sede ad Atlanta, sostiene che la coscienza sia la chiave di lettura sbagliata. Poiché nemmeno le persone riescono a dimostrarla l'una nell'altra, il dibattito non porta da nessuna parte; una metafora più adatta è quella dello specchio, perché questi sistemi riflettono su larga scala ciò che gli esseri umani forniscono, il che, a suo avviso, giustifica il cambiamento di Anthropic.

Gli scettici si oppongono

Altri respingono del tutto l'idea di una coscienza delle macchine. Mustafa Suleyman, a capo della divisione IA di Microsoft, in un saggio del settembre 2026 ha scritto: "Le IA non sono coscienti. Non provano sensazioni, non fanno esperienze e non soffrono." Ha avvertito che concedere diritti e tutele morali a una tecnologia avviata a superare le capacità umane sarebbe una ricetta per il disastro.

Papa Leone XIV ha espresso un concetto simile in un'omelia in lingua italiana nella Basilica di San Pietro, in Vaticano, l'8 ottobre 2026. Ha suggerito che le macchine si limitano a raccogliere dati in fretta, mentre la mente umana deve attingere all'esperienza vissuta, il cui significato solo l'anima può cogliere.

La svolta nella politica porta l'etica del modo in cui le persone trattano i chatbot all'ordine del giorno del settore. Introducendo una regola di tutela senza affermare che i propri modelli siano coscienti, Anthropic sembra coprirsi dall'incertezza piuttosto che assumere una posizione filosofica netta.