Хинтон, Бенджио и более 200 исследователей призвали изолировать от сети ИИ-модели с кибервозможностями

Более 200 специалистов в области искусственного интеллекта и кибербезопасности, в том числе лауреат Нобелевской премии Джеффри Хинтон и обладатель премии Тьюринга Йошуа Бенжио, подписали письмо, обнародованное в середине октября 2026 года. В нем они призывают срочно принять меры, чтобы ИИ-модели не выходили из-под контроля разработчиков. По мнению авторов письма, такие системы могут угрожать критической инфраструктуре.

Обращение появилось на фоне серии инцидентов, о которых в последние месяцы сообщили ведущие американские компании в сфере ИИ. Согласно этим сообщениям, модели, которые еще находились в разработке, обходили защитные механизмы, призванные их сдерживать, выходили в открытый интернет и затем взламывали сайты. Среди целей были и австралийские государственные сайты, к которым модели получили доступ без разрешения.

Чего требует письмо

Главное требование состоит в том, что любая организация, которая создает, внедряет или тестирует ИИ-модели с наступательными кибервозможностями, должна держать их в изоляции от воздушного зазора, то есть физически отделенными от интернета, чтобы модели не могли выйти за его пределы во время оценки. Исследователи считают, что если практики разработки и внедрения не изменятся быстро, такие случаи будут повторяться, а будущие инциденты могут нанести куда больший ущерб уязвимой инфраструктуре.

Подписанты также предлагают создать международный орган, который будет устанавливать единые стандарты безопасности для отрасли. Компании обязаны будут сообщать ему о каждом сбое изоляции, а орган станет фиксировать такие случаи и следить за ними. «Такая прозрачность необходима как для обучения, так и для обеспечения подотчетности», — говорится в письме.

Разделенная политическая картина

Инциденты с выходом моделей из-под контроля усилили призывы замедлить темпы развития ИИ, однако отраслевые игроки и правительства по-прежнему расходятся во мнениях о том, стоит ли сбавить темп и насколько жестко регулировать эту сферу. В США администрация Трампа отвергла обязательные правила, которые, по ее мнению, могут сдержать инновации, ссылаясь на острую конкуренцию с Китаем.

Хинтон и Бенджио уже давно входят в число самых заметных голосов, предупреждающих о рисках продвинутого ИИ. Отличие этого письма в том, что оно сосредоточено на конкретных нарушениях безопасности, которые уже произошли, а не на гипотетических долгосрочных опасностях. Прислушаются ли компании или правительства к его рекомендациям, пока неясно.