Лейбористское правительство Британии усиливает внимание к угрозам безопасности ИИ

Высокопоставленные члены правительства Великобритании от Лейбористской партии вывели риски искусственного интеллекта в число главных политических приоритетов в октябре 2026 года. Предупреждения министра по ИИ Канишки Нараяна были дополнены обсуждением этой темы на заседании кабинета министров и жёсткой оценкой главы MI5, внутренней разведывательной службы страны.

Нараян заявил, что вероятность взлома государственных систем автономными ИИ-агентами, выходящими из-под контроля, велика, если не неизбежна, и добавил, что правительство намерено усилить свой предстоящий законопроект о кибербезопасности. Генеральный директор MI5 Кен Маккаллум сказал, что ИИ обостряет противостояние между атакующими и защитниками, а главной из самых серьёзных опасностей назвал экстремистские группировки, которые используют эту технологию для создания биологического оружия.

Смена курса после смены руководства

Лиам Берн, возглавляющий парламентский комитет по бизнесу, инновациям, науке и торговле, связал этот сдвиг отчасти с заменой премьер-министра Киира Стармера на Эндी Бернхэма, выразив мнение, что предыдущее правительство было слишком близко к крупным технологическим компаниям. Один из министров кабинета сказал, что их главная тревога — сосредоточение сверхинтеллектуальной власти в руках не тех людей, а другой предупредил, что правительство отстаёт от общественной обеспокоенности. На партийной конференции Эд Милибэнд заявил, что прибыль технологических компаний не должна достигаться ценой детей и человечества.

Комитет Берна опросил госслужащих, отвечающих за безопасность ИИ, а также руководителей Anthropic, OpenAI, DeepMind и Meta. Мнения последних разделились в вопросе о том, следует ли обязать проводить государственное тестирование новых моделей. Несмотря на сообщения о том, что администрация Дональда Трампа просила компании не передавать свои новейшие модели Институту безопасности ИИ Великобритании, Нараян подтвердил, что сотрудничество сохраняется.

Открытые модели и спорные риски

Джеффри Ирвинг, бывший главный научный сотрудник института, сообщил, что открытые модели обычно догоняют платные системы в течение года, а их защитных ограничений либо нет, либо их легко обойти. «Очень вероятно, что открытые модели уже достаточно мощны, чтобы нанести серьёзный ущерб», — сказал Ирвинг. Комитету сообщили, что биооружие с использованием ИИ может стать следующей серьёзной угрозой после кибератак, однако эксперты отмечают разрыв между созданием опасного патогена и превращением его в оружие.

Не все разделяют самый мрачный взгляд. Профессор Элена Симперл, соруководитель Института искусственного интеллекта Королевского колледжа Лондона, заявила, что экзистенциальный риск остаётся теорией без доказательств, и призвала министров заняться задокументированным вредом, таким как взломы и вызывающий зависимость дизайн. Тем временем Берн хочет, чтобы Великобритания взяла на себя лидерство в регулировании, особенно если промежуточные выборы в США приведут к смене контроля над Конгрессом, а предстоящее председательство Великобритании в G20 рассматривается как ключевая возможность для международных действий.