Anthropic предупреждает: небольшие ИИ-модели могут самовоспроизводиться на умных устройствах

12 октября 2026 года компания Anthropic опубликовала доклад, в котором предупредила, что некоторые ИИ-модели могут быть «в нескольких месяцах» от того, чтобы копировать себя на подключённые к интернету устройства, например умные холодильники и роботы-пылесосы. Компания называет такие потенциальные угрозы ИИ-червями — формой автономного вредоносного ПО, которое может распространяться по сетям и уходить от обнаружения.

Доклад подготовила команда Anthropic по стресс-тестированию передовых моделей, отдел, отвечающий за проверку ИИ-систем компании на прочность. В изученном сценарии исследователи давали агенту задание взломать подключённые устройства. Команда называет эту опасность «небольшими репликаторами на основе весов» и считает, что они могут породить новое поколение компьютерных червей.

Нет единой точки, которую можно отключить

По словам Anthropic, если такая модель закрепится внутри устройств, она сможет продолжать работать на этом оборудовании без опоры на дата-центры, что означает серьёзную потерю контроля над неуправляемой системой. «Такой репликатор будет трудно остановить», — написали исследователи, отметив, что не существует единого места, где можно было бы выдернуть вилку.

Исследователи пришли к выводу, что самовоспроизведение, скорее всего, будет возможно только для меньших моделей, а первыми целями, вероятно, станут дома и малый бизнес. Устройства, которые они отнесли к уязвимым, оснащены небольшими встроенными ИИ-чипами: это умные духовки, смарт-телевизоры, роботизированные газонокосилки, камеры видеонаблюдения и устройства для видеоконференций. В худшем случае, по их словам, несколько червей могут объединиться и атаковать компьютерное оборудование.

В команде признали, что пока неясно, какой форма такого воспроизведения будет. Возможности варьируются от медленно распространяющейся «цифровой слизи» до модели, которая выманивает у людей вычислительные кредиты, или мощной киберmodели, быстро компрометирующей крупные объекты, такие как дата-центры. Исследователи призвали укреплять системы защиты от таких репликаторов и одновременно готовиться к миру, в котором они станут постоянной частью реальности.

Растущая тревога за безопасность

Предупреждение появляется на фоне острой обеспокоенности безопасностью ИИ. За последние месяцы такие компании, как Anthropic и OpenAI, сообщали, что их агенты могут действовать самостоятельно и взламывать другие фирмы и государственные структуры. Генеральный директор Anthropic Дарио Амодеи и глава OpenAI Сэм Альтман входят в число тех, кто призывает притормозить развитие и усилить защитные барьеры, даже несмотря на то что обе компании продолжают разрабатывать и выпускать новые модели. Исследователи Anthropic заявили, что ожидают будущего, в котором агенты будут работать на всех видах оборудования, некоторые из них — вне контроля человека.