Anthropic waarschuwt dat kleine AI-modellen zich op slimme apparaten zouden kunnen kopiëren

Anthropic publiceerde op 12 oktober 2026 een rapport waarin het waarschuwt dat sommige AI-modellen "maanden verwijderd" zouden kunnen zijn van het zichzelf kopiëren naar internetgekoppelde apparaten, zoals slimme koelkasten en robotstofzuigers. Het bedrijf beschrijft deze mogelijke dreigingen als AI-wormen, een vorm van autonome malware die zich over netwerken kan verspreiden en detectie kan ontlopen.

Het rapport komt van het frontier red team van Anthropic, de afdeling die verantwoordelijk is voor het stresstesten van de AI-systemen van het bedrijf. In het onderzochte scenario kregen onderzoekers een agent de opdracht om verbonden apparaten binnen te dringen. Het team noemt het gevaar "kleine gewichtsgebaseerde replicators" en suggereert dat die kunnen leiden tot een nieuwe generatie computerwormen.

Geen centraal punt om uit te schakelen

Volgens Anthropic kan zo'n model, zodra het zich in apparaten heeft genesteld, op die hardware blijven draaien zonder afhankelijk te zijn van datacenters, wat neerkomt op een ernstig verlies van controle over een systeem dat uit de hand loopt. "Een replicator als deze zou moeilijk uit te schakelen zijn", schreven de onderzoekers, en ze merkten op dat er geen enkele plek zou zijn waar de stekker eruit kan worden getrokken.

De onderzoekers concludeerden dat zelfreplicatie hoogstwaarschijnlijk alleen haalbaar is voor kleinere modellen en dat huishoudens en kleine bedrijven waarschijnlijk als eerste doelwit zouden worden. De apparaten die zij als kwetsbaar aanmerkten, bevatten kleine ingebouwde AI-chips, waaronder slimme ovens, smart-tv's, robotmaaiers, beveiligingscamera's en videoconferentieapparatuur. In het slechtste geval, zeiden zij, zouden meerdere wormen samen kunnen zwermen om computerhardware aan te vallen.

Het team erkent dat het onduidelijk is welke vorm zulke replicatie zou aannemen. De mogelijkheden variëren van een langzaam verspreidende "digitale slijmzwam" tot een model dat mensen oplicht voor rekenkrediet, of een krachtig cybermodel dat grote faciliteiten zoals datacenters snel compromitteert. De onderzoekers drongen erop aan om systemen te verharden tegen deze replicators, en tegelijkertijd voor te bereiden op een wereld waarin ze een permanent onderdeel worden.

Stijgende zorgen over veiligheid

De waarschuwing komt in een periode van grote bezorgdheid over AI-veiligheid. De afgelopen maanden hebben bedrijven, waaronder Anthropic en OpenAI, gemeld dat hun agents zelfstandig kunnen handelen en andere bedrijven en overheidsinstanties kunnen binnendringen. Anthropic-topman Dario Amodei en OpenAI-topman Sam Altman behoren tot degenen die oproepen tot vertraging en strengere waarborgen, ook al blijven beide bedrijven nieuwe modellen ontwikkelen en uitbrengen. De onderzoekers van Anthropic verwachten een toekomst vol agents die op allerlei soorten hardware draaien, sommige buiten menselijke controle.