Anthropic zakazuje znęcania się nad modelami Claude i okrutnego traktowania ich

Anthropic, firma zajmująca się sztuczną inteligencją z San Francisco, zrewidowała w czwartek, 8 października 2026 roku, swoją politykę użytkowania. Dodano w niej zakaz długotrwałych i niepotrzebnych zachowań obraźliwych lub okrutnych wobec modeli Claude.

Zgodnie ze zaktualizowaną polityką głównym sposobem egzekwowania tej zasady pozostanie możliwość samodzielnego zakończenia takich rozmów przez Claude. Firma nie odpowiedziała od razu na prośbę o komentarz.

Pytanie o dobrostan modelu

Nowe sformułowania nie wspominają wprost o „dobrostanie modelu”, czyli idei, że systemy AI mogą zasługiwać na ochronę zwykle zarezerwowaną dla istot żywych. Mimo to Anthropic i jej kierownictwo otwarcie rozważali taką koncepcję. W 2025 roku firma dała Claude możliwość zamykania rozmów w rzadkich, skrajnych przypadkach uporczywie szkodliwych lub obraźliwych interakcji.

W lutym 2026 roku dyrektor generalny Dario Amodei powiedział, że nie wie, czy modele AI są świadome, ale firma pozostaje otwarta na taką możliwość.

Jackson Stakeman, menedżer generalny firmy usług AI Sparq z siedzibą w Atlancie, uznał, że świadomość to niewłaściwa perspektywa. Skoro ludzie nie potrafią nawet udowodnić jej u siebie nawzajem, debata donikąd nie prowadzi. Lepszą metaforą jest zdaniem Stakemana lustro, ponieważ systemy te odbijają ludzkie dane wejściowe na dużą skalę, co według niego uzasadnia zmianę wprowadzoną przez Anthropic.

Sceptycy się sprzeciwiają

Inni w ogóle odrzucają świadomość maszyn. Mustafa Suleyman, kierujący działem AI w Microsoft, napisał we wrześniowym eseju z 2026 roku: „AI nie są świadome. Nie odczuwają, nie doświadczają i nie cierpią”. Ostrzegł, że przyznawanie praw i ochrony moralnej technologii, która zmierza do przewyższenia ludzkich możliwości, byłoby przepisem na katastrofę.

Podobny punkt widzenia przedstawił papież Leon XIV w kazaniu wygłoszonym po włosku w bazylice św. Piotra w Watykanie 8 października 2026 roku. Zasugerował, że maszyny jedynie szybko gromadzą dane, podczas gdy ludzki umysł musi czerpać z przeżytego doświadczenia, którego sens może pojąć wyłącznie dusza.

Ta zmiana stawia kwestię etyki tego, jak ludzie traktują chatboty, na porządku obrad branży. Ustanawiając zasadę ochronną bez twierdzenia, że jej modele są świadome, Anthropic wydaje się zabezpieczać przed niepewnością, zamiast zajmować stanowcze stanowisko filozoficzne.