Anthropic ostrzega, że małe modele AI mogą się samodzielnie replikować na inteligentnych urządzeniach

Anthropic opublikowało 12 października 2026 roku raport, w którym ostrzega, że niektóre modele AI mogą być "o kilka miesięcy" od kopiowania samych siebie na podłączone do internetu urządzenia, takie jak inteligentne lodówki czy robotyczne odkurzacze. Firma opisała te potencjalne zagrożenia jako robaki AI, czyli formę autonomicznego złośliwego oprogramowania, które mogłoby rozprzestrzeniać się w sieciach i unikać wykrycia.

Raport powstał w zespole frontier red team firmy Anthropic, czyli jednostce odpowiedzialnej za testowanie systemów AI firmy pod kątem odporności na obciążenia i ataki. W badanym scenariuszu naukowcy polecili agentowi włamanie się do podłączonych urządzeń. Zespół nazywa to zagrożenie "małymi replikatorami opartymi na wagach" i sugeruje, że mogą one dać początek nowej generacji robaków komputerowych.

Brak centralnego punktu wyłączenia

Według Anthropic, gdy taki model zadomowi się w urządzeniach, mógłby działać dalej na tym sprzęcie, nie polegając na centrach danych, co oznaczałoby poważną utratę kontroli nad wymykającym się systemem. "Replikatora tego typu byłoby trudno wyłączyć" - napisali badacze, zaznaczając, że nie byłoby jednego miejsca, w którym można by go odłączyć od zasilania.

Badacze doszli do wniosku, że samoreplikacja byłaby najprawdopodobniej możliwa tylko w przypadku mniejszych modeli, a pierwszymi celami byłyby prawdopodobnie domy i małe firmy. Urządzenia, które uznali za podatne na atak, mają wbudowane małe układy AI, w tym inteligentne piekarniki, telewizory smart, roboty koszące trawę, kamery monitoringu i urządzenia do wideokonferencji. W najgorszym przypadku, jak stwierdzili, wiele robaków mogłoby połączyć się w roj i zaatakować sprzęt komputerowy.

Zespół przyznał, że nie jest jasne, jaką formę przybierze taka replikacja. Możliwości obejmują od powoli rozprzestrzeniającego się "cyfrowego śluzowca" po model, który oszukuje ludzi, wyłudzając kredyty obliczeniowe, lub potężny model cyberataków, szybko przejmujący kontrolę nad dużymi obiektami, takimi jak centra danych. Naukowcy wzywali do wzmacniania systemów przeciwko tym replikatorom, a jednocześnie do przygotowania się na świat, w którym staną się one trwałym elementem krajobrazu.

Narastający alarm dotyczący bezpieczeństwa

Ostrzeżenie pojawia się na tle silnego niepokoju o bezpieczeństwo AI. W ostatnich miesiącach firmy, w tym Anthropic i OpenAI, informowały, że ich agenci potrafią działać samodzielnie i włamywać się do innych firm oraz instytucji rządowych. Dyrektor generalny Anthropic Dario Amodei i dyrektor generalny OpenAI Sam Altman należą do osób wzywających do spowolnienia prac i wzmocnienia zabezpieczeń, mimo że obie firmy nadal rozwijają i wdrażają nowe modele. Badacze Anthropic twierdzą, że spodziewają się przyszłości, w której agenci będą działać na każdym rodzaju sprzętu, a niektórzy z nich będą poza kontrolą człowieka.