Документы ФБР: ИИ одновременно и инструмент террористов, и мишень американских экстремистов

Правоохранительные органы США на протяжении нескольких лет рассматривают искусственный интеллект одновременно как инструмент и как мишень потенциальных террористов, следует из более чем 80 внутренних документов, циркулировавших в период с 2021 по 2026 год. Файлы, полученные некоммерческой организацией по обеспечению прозрачности работы государства Property of the People, о которых сообщено 14 октября 2026 года, включают материалы ФБР, Министерства национальной безопасности (DHS) и полицейского департамента Нью-Йорка (NYPD).

Одна служебная записка, распространенная отделением ФБР в Лос-Анджелесе в мае 2026 года, касается автомобильного взрыва в мае 2025 года у клиники репродуктивной медицины в Палм-Спрингс. 25-летний нападавший покончил с собой, четыре человека получили ранения. Согласно записке, он запросил у неназванного инструмента генеративного ИИ инструкции по изготовлению бомбы, и система не отреагировала на этот запрос.

Защитные меры признаны недостаточными

Сотрудники отмечали, что закрытый характер переписки с чат-ботом не позволил полиции получить предупреждение. Ведомство ожидает повторения подобных случаев: «Субъекты угроз, вероятно, будут активнее использовать инструменты генеративного ИИ для планирования атак», говорится в записке. В ней также указано, что встроенные защитные механизмы не справляются, поскольку злоумышленники используют методы джейлбрейкинга, чтобы извлекать опасную информацию.

Другие документы рассматривают, как экстремисты могут использовать ИИ для планирования нападений и вербовки, а также как эта технология может создавать дипфейки, дезинформацию о выборах и материалы с сексуальным насилием над детьми. Ведомства также обсуждали внедрение ИИ для полицейских задач, например мониторинга социальных сетей, при этом учитывая общественную тревогу по поводу таких инструментов.

Наблюдение за настроениями против дата-центров

Второе направление беспокойства связано с тем, что экстремисты атакуют технологическую инфраструктуру. Информационно-аналитические центры («фьюжн-центры») по всей стране отмечали публикации в социальных сетях, мессенджерах и на форумах вроде 4chan, в которых обещали уничтожить дата-центры. В совместном аналитическом обзоре DHS, Национального центра по борьбе с терроризмом и ФБР от октября 2021 года упоминался Сет Пендли, член ультраправой милиции, приговоренный к 10 годам лишения свободы за планирование взрыва объекта Amazon Web Services.

DHS заявило, что, по его оценке, злоумышленники могут использовать ИИ для усиления существующего вреда, включая киберактивность, мошенничество и пропаганду насильственного экстремизма. NYPD сообщило, что его отчет об угрозах ИИ суммирует «AI 2027», широко обсуждаемый прогноз нескольких исследователей ИИ. ФБР не ответило на подробные вопросы и вместо этого сослалось на общую справку о своем использовании этой технологии.

Документы выявляют разрыв между руководителями компаний в сфере ИИ, которые, как правило, публично говорят о долгосрочных катастрофических рисках, и полицейскими, которые имеют дело с сегодняшними случаями злоупотреблений. Вероятно, это обострит дискуссию о том, насколько эффективны реальные меры безопасности моделей и how далеко должны заходить власти в мониторинге онлайн-протестов против ИИ.