Anthropic предложила законопроект, по которому суд сможет остановить ИИ-модели при угрозе катастрофы

Anthropic подготовила для Конгресса США проект федерального закона об ИИ, который позволил бы судье приостановить работу передовой модели только при непосредственной угрозе катастрофических последствий. Об этом сообщает Politico со ссылкой на копию закрытого документа и трёх анонимных источников. Текст пока не внесён в Конгресс, и компания его не опубликовала. Копия, выдаваемая за этот черновик, циркулирует в интернете как минимум с 17 октября 2026 года, однако Anthropic её не подтверждала.

Представитель Anthropic подтвердил, что предложение опирается на Advanced AI Framework, который компания представила в июне и с тех пор продвигала среди федеральных и штатных законодателей. По его словам, это «разумные меры, которые, как мы считаем, Конгресс должен принять».

Как будет работать блокировка

Согласно черновику, независимые оценщики, зарегистрированные в Министерстве торговли, будут периодически проверять лаборатории и их передовые модели. Лаборатории могли бы платить им при условии, что оплата не зависит от результатов проверки. Если оценщик выявит непосредственную угрозу из перечисленного списка, у него будет 72 часа, чтобы уведомить Минторг, а тот, в свою очередь, мог бы попросить федерального судью в Вашингтоне приостановить модель. Триггерами названы создание или распространение биооружия, кибератаки и выход модели из-под контроля разработчика.

По версии утёкшего текста, опубликованной на LessWrong, бремя доказывания лежит на министре торговли, блокировка должна быть наименее ограничительной мерой, а действие предписаний истекает через 45 дней. Ни одно другое федеральное ведомство по этому закону не сможет остановить модель. Лабораториям также понадобились бы система безопасности, публикуемые отчёты о прозрачности, защита информаторов и обязательная отчётность о критических инцидентах.

Порог в 50 человек повторяет калифорнийский закон SB 53, подписанный 29 сентября 2025 года, а также двухпартийный закон FRONTIER Act, внесённый в палату представителей 23 июля 2026 года Лори Трахан и Джеем Обернолте. В отличие от того законопроекта, который позволяет министру приостанавливать модель на основании письменного заключения до любых слушаний, версия Anthropic ставит судью на первое место и лишь регистрирует оценщиков, не выдавая им лицензий.

Наибольшую критику вызывает преэмпция

Самое спорное положение отменяло бы действие некоторых штатных норм о раскрытии рисков, сторонней оценке и отчётности об инцидентах. Эти сферы регулируются SB 53 и законом штата Нью-Йорк RAISE Act, которые Anthropic поддержала оба. Член Ассамблеи штата Нью-Йорк Алекс Бореш, автор RAISE Act, заявляет, что черновик слабее собственной системы безопасности Anthropic, а по таким вопросам, как внутреннее использование моделей и сроки отчётности, слабее и действующего законодательства штата.

Чарли Буллок из Института права и ИИ назвал документ в целом разумным, но более слабым, чем FRONTIER Act, в части правотворчества и полномочий на экстренное отключение. Он предупредил, что нелицензированные аудиторы могут конкурировать, предлагая более мягкие условия. Натан Калвин из Encode утверждает, что требование учитывать ущерб разработчикам затруднит получение судебных запретов, а аналитик LessWrong считает, что прямой правовой механизм сделает федеральную остановку модели более вероятной, чем по действующему праву.