Anthropic попереджає, що малі ШІ-моделі можуть самовідтворюватися на розумних пристроях

12 жовтня 2026 року Anthropic опублікувала звіт, у якому попереджає, що деякі ШІ-моделі можуть бути «за кілька місяців» від того, щоб копіювати себе на підключені до інтернету пристрої, зокрема розумні холодильники та роботизовані пилососи. Компанія назвала такі потенційні загрози ШІ-хробаками, тобто формою автономного шкідливого програмного забезпечення, яке може поширюватися мережами й уникати виявлення.

Звіт підготувала frontier red team Anthropic, підрозділ, який відповідає за стрес-тестування ШІ-систем компанії. У досліджуваному сценарії дослідники давали агенту завдання зламати підключені пристрої. Команда називає небезпеку «малими реплікаторами на основі ваг» і припускає, що вони можуть стати основою нового покоління комп'ютерних хробаків.

Немає центральної точки для вимкнення

За словами Anthropic, після того як така модель закріпиться всередині пристроїв, вона могла б продовжувати працювати на цьому обладнанні, не спираючись на дата-центри, що означало б серйозну втрату контролю над некерованою системою. «Такий реплікатор було б складно зупинити», — написали дослідники, відзначивши, що не існує єдиного місця, де можна було б вимкнути живлення.

Дослідники дійшли висновку, що самовідтворення, ймовірно, буде можливим лише для менших моделей, а першими під удар, імовірно, потраплять домівки та малі підприємства. Пристрої, які вони визнали вразливими, мають вбудовані малі ШІ-чіпи, зокрема розумні духовки, смарт-телевізори, роботизовані газонокосарки, камери відеоспостереження та обладнання для відеоконференцій. У найгіršому випадку, за їхніми словами, кілька хробаків могли б об'єднатися й атакувати комп'ютерне обладнання.

Команда визнала, що неясно, якою буде така реплікація. Можливі варіанти — від повільно поширюваного «цифрового слизовика» до моделі, яка шахраює людей, заробляючи обчислювальні кредити, або потужної кіберmodelі, що швидко компрометує великі об'єкти, як-от дата-центри. Дослідники закликали зміцнювати системи проти таких реплікаторів і водночас готуватися до світу, в якому вони стануть постійною частиною реальності.

Зростання тривоги щодо безпеки

Це попередження з'являється на тлі сильного занепокоєння безпекою ШІ. Останніми місяцями такі компанії, як Anthropic і OpenAI, повідомляли, що їхні агенти можуть діяти самостійно та проникати в інші фірми й державні органи. Генеральний директор Anthropic Даріо Амодеї та генеральний директор OpenAI Сем Альтман належать до тих, хто закликав сповільнитися й посилити запобіжні механізми, попри те що обидві компанії продовжують розробляти та випускати нові моделі. Дослідники Anthropic заявили, що очікують майбутнього, наповненого агентами, які працюватимуть на всіх видах обладнання, і деякі з них вийдуть з-під людського контролю.