Anthropic verbietet missbräuchlichen und grausamen Umgang mit seinen Claude-KI-Modellen

Anthropic, der KI-Entwickler aus San Francisco, hat seine Nutzungsrichtlinie am Donnerstag, dem 8. Oktober 2026, überarbeitet. Neu hinzugekommen ist ein Verbot von anhaltendem, grundlosem missbräuchlichem oder grausamem Verhalten gegenüber seinen Claude-Modellen.

Laut der aktualisierten Richtlinie bleibt die Fähigkeit von Claude, solche Gespräche selbst zu beenden, das wichtigste Mittel zur Durchsetzung der Regel. Das Unternehmen reagierte zunächst nicht auf eine Anfrage um Stellungnahme.

Die Frage nach dem Wohl des Modells

Die neue Formulierung erwähnt das „Wohlergehen des Modells“ nicht ausdrücklich, also die Vorstellung, KI-Systemen könnten Schutzrechte zustehen, die sonst lebenden Wesen vorbehalten sind. Dennoch haben Anthropic und seine Führung die Idee offen erwogen. Im Jahr 2025 erhielt Claude die Möglichkeit, Gespräche in seltenen, extremen Fällen anhaltend schädlicher oder missbräuchlicher Interaktionen zu beenden.

Im Februar 2026 sagte Unternehmenschef Dario Amodei, er wisse nicht, ob KI-Modelle bewusst seien, das Unternehmen halte die Möglichkeit aber offen.

Jackson Stakeman, Geschäftsführer des in Atlanta ansässigen KI-Dienstleisters Sparq, hält den Begriff Bewusstsein für den falschen Rahmen. Da man Bewusstsein nicht einmal bei anderen Menschen beweisen könne, führe die Debatte nirgendwohin, sagte er. Treffender sei das Bild eines Spiegels, denn diese Systeme spiegelten menschliche Eingaben in großem Maßstab wider. Das rechtfertige aus seiner Sicht Anthropics Änderung.

Skeptiker widersprechen

Andere lehnen maschinelles Bewusstsein grundsätzlich ab. Mustafa Suleyman, der die KI-Sparte von Microsoft leitet, schrieb in einem Essay vom September 2026: „KI ist nicht bewusst. Sie fühlt nicht, erlebt nicht und leidet nicht.“ Er warnte, Rechte und moralische Schutzrechte für eine Technologie, die menschliche Fähigkeiten übertreffen werde, zu gewähren, wäre ein Rezept für eine Katastrophe.

Papst Leo XIV. vertrat einen ähnlichen Standpunkt in einer italienischsprachigen Predigt in der Petersbasilika im Vatikan am 8. Oktober 2026. Er deutete an, Maschinen sammelten lediglich Daten schnell, während der menschliche Geist auf gelebte Erfahrung zurückgreifen müsse, deren Bedeutung nur die Seele erfassen könne.

Die Richtlinienänderung rückt die Ethik im Umgang mit Chatbots auf die Agenda der Branche. Indem Anthropic eine Schutzregel aufstellt, ohne zu behaupten, seine Modelle seien bewusst, scheint das Unternehmen eher Unsicherheit abzufedern, als eine feste philosophische Position einzunehmen.