Уряд лейбористів Великої Британії посилює увагу до загроз безпеки ШІ

Вищі посадовці британського уряду лейбористів у жовтні 2026 року вивели ризики штучного інтелекту на перші позиції політичного порядку денного. Застереження міністра з питань ШІ Каніški Нараяна були підхоплені обговоренням цього питання на засіданні кабінету та різкою оцінкою керівника MI5, внутрішньої служби розвідки.

Нараян заявив, що ймовірно, якщо не неминуче, некеровані ШІ-агенти зламають систему державного управління Великої Британії, додавши, що уряд хоче посилити свій майбутній законопроєкт про кібербезпеку. Генеральний директор MI5 Кен Макаллум сказав, що ШІ посилює боротьбу між нападниками та захисниками, і назвав найбільшою небезпекою екстремістські групи, які використовують цю технологію для створення біозброї.

Зміна позиції після зміни керівництва

Ліам Бірн, голова парламентського комітету з питань бізнесу, інновацій, науки та торгівлі, пов'язав цей зсув частково зі зміною прем'єр-міністра: Кір Стармер поступився місцем Енді Бернему. Він стверджує, що попередній уряд був занадто близьким до великого технологічного бізнесу. Один міністр кабінету сказав, що їхнім найглибшим занепокоєнням є потрапляння концентрованої надсуперінтелектуальної влади до не тих рук, тоді як інший попередив, що уряд відстає від суспільної стурбованості. На партійному з'їзді Ед Мілібенд наполягав, що прибутки технологічних компаній не можуть досягатися ціною дітей чи людства.

Комітет Бірна допитував державних службовців, відповідальних за безпеку ШІ, а також керівників Anthropic, OpenAI, DeepMind та Meta, які розійшлися в думках щодо того, чи має обов'язковим бути державне тестування нових моделей. Попри повідомлення про те, що адміністрація Дональда Трампа просила компанії не ділитися своїми найновішими моделями з Інститутом безпеки ШІ Великої Британії, Нараян підтвердив, що співпраця зберігається.

Відкриті моделі та спірні ризики

Джеффрі Ірвінг, колишній головний науковий співробітник інституту, сказав, що моделі з відкритим кодом, як правило, наздоганяють платні системи протягом року, а їхні запобіжники відсутні або легко видаляються. «Дуже ймовірно, що моделі з відкритим кодом уже достатньо потужні, щоб завдати серйозної шкоди», — сказав Ірвінг. Комітету повідомили, що біозброя, створена за допомогою ШІ, може стати наступною серйозною загрозою після кібератак, хоча експерти зазначають розрив між проєктуванням небезпечного патогену та перетворенням його на зброю.

Не всі погоджуються з найпохмурішим трактуванням. Професорка Олена Сімперл, співдиректорка Інституту штучного інтелекту Лондонського королівського коледжу, сказала, що екзистенційний ризик залишається непідтвердженою теорією, і закликала міністрів займатися задокументованою шкодою, зокрема зломами та шкідливим дизайном, що викликає залежність. Тим часом Бірн хоче, щоб Британія взяла на себе лідерство в регулюванні, особливо якщо проміжні вибори до Конгресу США змінять контроль над ним, а майбутнє головування Великої Британії в G20 розглядається як ключова можливість для міжнародних дій.