Anthropic verbiedt misbruik en wreed gedrag tegenover zijn Claude-AI-modellen

Anthropic, het AI-bedrijf uit San Francisco, heeft op donderdag 8 oktober 2026 zijn gebruiksbeleid herzien. Er is een verbod toegevoegd op langdurig en onnodig beledigend of wreed gedrag gericht op zijn Claude-modellen.

Volgens het bijgewerkte beleid blijft de eigen mogelijkheid van Claude om dergelijke gesprekken te beëindigen de belangrijkste manier om de regel af te dwingen. Het bedrijf reageerde niet direct op een verzoek om commentaar.

De vraag naar het welzijn van modellen

De nieuwe tekst noemt "welzijn van modellen" niet expliciet, het idee dat AI-systemen bescherming zouden kunnen verdienen die normaal is voorbehouden aan levende wezens. Toch heeft Anthropic, net als zijn leiding, het idee openlijk overwogen. In 2025 kreeg Claude de mogelijkheid om gesprekken af te sluiten in zeldzame, extreme gevallen van aanhoudend schadelijke of beledigende interacties.

In februari 2026 zei oprichter en topman Dario Amodei dat hij niet weet of AI-modellen bewust zijn, maar dat het bedrijf open blijft voor die mogelijkheid.

Jackson Stakeman, algemeen directeur bij het in Atlanta gevestigde AI-dienstenbedrijf Sparq, stelt dat bewustzijn het verkeerde kader is. Omdat mensen het zelfs bij elkaar niet kunnen aantonen, zo zei hij, komt het debat nergens. Een betere metafoor is een spiegel, omdat deze systemen menselijke input op grote schaal weerspiegelen. Dat rechtvaardigt volgens hem de wijziging van Anthropic.

Scepticus reageert

Anderen wijzen machinebewustzijn helemaal af. Mustafa Suleyman, die de AI-divisie van Microsoft leidt, schreef in een essay van september 2026: "AI's zijn niet bewust. Ze voelen, ervaren of lijden niet." Hij waarschuwde dat het toekennen van rechten en morele bescherming aan een technologie die op weg is om de menselijke capaciteiten te overtreffen, een recept voor een ramp zou zijn.

Paus Leo XIV maakte een vergelijkbaar punt in een Italiaanstalige preek in de Sint-Pietersbasiliek in Vaticaanstad op 8 oktober 2026. Hij suggereerde dat machines alleen snel gegevens verzamelen, terwijl de menselijke geest put uit geleefde ervaring waarvan alleen de ziel de betekenis kan vatten.

De koerswijziging zet de ethiek van hoe mensen met chatbots omgaan op de agenda van de sector. Door een beschermende regel in te stellen zonder te beweren dat de modellen bewust zijn, lijkt Anthropic zich in te dekken tegen onzekerheid in plaats van een stellig filosofisch standpunt in te nemen.