Projekt Anthropic zakłada, że sądy mogłyby wstrzymywać modele AI grożące katastrofą

Anthropic przygotowała projekt federalnej ustawy o sztucznej inteligencji dla Kongresu USA, który pozwalałby sędziemu zawiesić działanie modelu granicznego wyłącznie w obliczu bezpośredniego katastrofalnego zagrożenia. Jak podaje Politico, powołujący się na kopię poufnego projektu i na trzech anonimowych informatorów, tekst nie został jeszcze złożony w Kongresie, a firma go nie opublikowała. Dokument przedstawiany jako ten projekt krąży w internecie co najmniej od 17 października 2026 roku, choć Anthropic nie potwierdziła jego autentyczności.

Rzeczniczka Anthropic potwierdziła, że propozycja opiera się na Advanced AI Framework, opublikowanym przez firmę w czerwcu i od tamtej pory promowanym wśród ustawodawców federalnych i stanowych. Określiła ją jako „rozsądne środki, które naszym zdaniem Kongres powinien wprowadzić”.

Jak miałaby działać blokada

Zgodnie z projektem niezależni oceniający zarejestrowani w Departamencie Handlu okresowo sprawdzaliby laboratoria i ich modele graniczne. Laboratoria mogłyby im płacić, pod warunkiem że wynagrodzenie nie zależałoby od wyniku oceny. Jeśli oceniający stwierdziłby bezpośrednie zagrożenie z wymienionej listy, miałby 72 godziny na powiadomienie Departamentu Handlu, który mógłby wówczas zwrócić się do federalnego sędziego w Waszyngtonie o zawieszenie modelu. Wyzwalającymi zagrożeniami byłyby tworzenie lub rozprzestrzenianie broni biologicznej, cyberataki oraz sytuacja, w której model wymyka się spod kontroli swojego twórcy.

Z analizy wyciekłego tekstu opublikowanej na LessWrong wynika, że ciężar dowodu spoczywa na sekretarzu handlu, blokada musi być najmniej restrykcyjnym środkiem, a nakazy wygasają po 45 dniach. Żadna inna federalna agencja nie mogłaby na mocy tej ustawy wstrzymać modelu. Laboratoria musiałyby też posiadać ramy bezpieczeństwa, publikować raporty przejrzystości, zapewnić ochronę sygnalistów i zgłaszać poważne incydenty.

Próg 50 osób nawiązuje do kalifornijskiej ustawy SB 53, podpisanej 29 września 2025 roku, oraz do ponadpartyjnej ustawy FRONTIER Act, złożonej w Izbie Reprezentantów 23 lipca 2026 roku przez Lori Trahan i Jaya Obernoltego. W przeciwieństwie do tamtej ustawy, która pozwala sekretarzowi zawiesić model na podstawie pisemnego stwierdzenia jeszcze przed przesłuchaniem, wersja Anthropic stawia sędziego na pierwszym miejscu i jedynie rejestruje oceniających, zamiast ich licencjonować.

Klauzula o pierwszeństwie prawa federalnego wywołuje najostrzejszą krytykę

Najbardziej sporny przepis uchylałby niektóre przepisy stanowe dotyczące ujawniania ryzyka, ocen przeprowadzanych przez podmioty zewnętrzne i zgłaszania incydentów, czyli obszary objęte SB 53 oraz nowojorską ustawą RAISE Act, które Anthropic poparła. Alex Bores, deputowany ze stanu Nowy Jork i autor RAISE Act, twierdzi, że projekt jest słabszy niż własne ramy Anthropic, a w kwestiach takich jak wewnętrzne wykorzystanie modeli czy terminy raportowania – słabszy także od obowiązującego prawa stanowego.

Charlie Bullock z Institute for Law & AI ocenił projekt jako w miarę rozsądny, ale słabszy od FRONTIER Act w zakresie uprawnień do stanowienia przepisów wykonawczych i nadzwyczajnego wyłączania systemów. Ostrzegł, że nielicencjonowani audytorzy mogliby konkurować ze sobą łagodnością ocen. Nathan Calvin z organizacji Encode twierdzi z kolei, że żądanie od sędziów uwzględniania szkód dla twórców modeli utrudniłoby uzyskanie blokady, natomiast analityk z LessWrong uważa, że wyraźna ścieżka prawna sprawiłaby, iż federalne wstrzymanie modelu stałoby się bardziej prawdopodobne niż na gruncie obecnego prawa.