Anthropic пропонує законопроєкт, який дозволить судам зупиняти ШІ-моделі за загрози катастрофи

Anthropic підготувала для Конгресу США проєкт федерального закону про ШІ, за яким суддя міг би призупинити роботу передової моделі лише перед обличчям неминучого катастрофічного ризику. Про це повідомляє Politico, яке посилається на копію конфіденційного проєкту та трьох анонімних джерел. Текст ще не внесено до Конгресу, і компанія його не оприлюднила. Копія, що видається за цей проєкт, циркулює в інтернеті щонайменше з 17 жовтня 2026 року, однак Anthropic її не підтвердила.

Речник Anthropic підтвердив, що пропозиція спирається на Advanced AI Framework, який компанія представила в червні й відтоді просувала серед федеральних та штатних законодавців. За його словами, це «розумні заходи, які, на нашу думку, Конгрес має ухвалити».

Як працюватиме блокування

Згідно з проєктом, незалежні оцінювачі, зареєстровані в Міністерстві торгівлі, періодично перевірятимуть лабораторії та їхні передові моделі. Лабораторії могли б платити їм за роботу за умови, що оплата не залежатиме від результатів. Якщо оцінювач виявить неминучий ризик із переліку, у нього буде 72 години, щоб повідомити Міністерство торгівлі. Далі міністерство могло б звернутися до федерального судді у Вашингтоні з вимогою призупинити модель. Ризиками, що можуть стати підставою, є створення або поширення біološої зброї, кібератаки та ситуація, коли модель виходить з-під контролю розробника.

За описом витеку тексту, опублікованого на LessWrong, тягар доказування покладається на міністра торгівлі, блокування має бути найменш обмежувальним заходом, а накази втрачають чинність через 45 днів. Жодне інше федеральне агентство не могло б зупинити модель за цим законом. Лабораторіям також слід було б мати систему безпеки, публікувати звіти про прозорість, забезпечити захист викривачів і повідомляти про критичні інциденти.

Поріг у 50 осіб повторює калифорнійський закон SB 53, підписаний 29 вересня 2025 року, а також двопартійний закон FRONTIER Act, внесений до Палати представників 23 липня 2026 року Лорі Трахан і Джеєм Обернольте. На відміну від цього закону, який дозволяє міністру призупинити модель на підставі письмового висновку ще до будь-яких слухань, версія Anthropic надає перевагу судді і лише реєструє оцінювачів, а не ліцензує їх.

Перевага федерального права найбільше викликає критику

Найспірнішим є положення, яке замінило б деякі штатні правила щодо розкриття ризиків, незалежного оцінювання та звітності про інциденти. Ці сфери регулюються SB 53 та RAISE Act штату Нью-Йорк, які Anthropic підтримала. Член Асамблеї Нью-Йорка Алекс Борес, автор RAISE Act, заявляє, що проєкт слабший за власну рамку Anthropic, а в таких питаннях, як внутрішнє використання моделей і строки звітності, слабший і за чинне законодавство штатів.

Чарлі Буллок з Інституту права та ШІ назвав проєкт доволі розумним, але слабшим за FRONTIER Act щодо повноважень на нормотворення та екстрених повноважень на зупинку, попереджаючи, що нелiцензовані аудитори могли б змагатися між собою, пом'якшуючи вимоги. Нейтан Калвін з Encode стверджує, що вимога до суддів зважувати шкоду для розробників ускладнить отримання блокувань, тоді як аналітик LessWrong вважає, що чіткий правовий механізм зробить федеральну зупинку ймовірнішою, ніж за чинним законодавством.