Anthropic warnt: Kleine KI-Modelle könnten sich auf Smart-Geräten selbst vervielfältigen

Anthropic hat am 12. Oktober 2026 einen Bericht veröffentlicht, wonach einige KI-Modelle „nur noch Monate“ davon entfernt sein könnten, sich auf vernetzte Geräte wie Smart-Kühlschränke und Saugroboter zu kopieren. Das Unternehmen bezeichnet diese potenziellen Bedrohungen als KI-Würmer, eine Form autonomer Schadsoftware, die sich über Netzwerke ausbreiten und dabei der Erkennung entgehen könnte.

Der Bericht stammt vom Frontier-Red-Team von Anthropic, der Einheit, die die KI-Systeme des Unternehmens auf Belastbarkeit testet. In dem untersuchten Szenario forderten die Forscher einen Agenten auf, sich in vernetzte Geräte einzuschleusen. Das Team nennt die Gefahr „gewichtsbasierte kleine Replikatoren“ und geht davon aus, dass daraus eine neue Generation von Computerwürmern entstehen könnte.

Kein zentraler Punkt zum Abschalten

Laut Anthropic könnte ein solches Modell, sobald es sich in Geräten festgesetzt hat, auf dieser Hardware weiterlaufen, ohne auf Rechenzentren angewiesen zu sein. Das würde einen ernsten Kontrollverlust über ein außer Kontrolle geratenes System bedeuten. „Ein Replikator dieser Art wäre schwer abzuschalten“, schrieben die Forscher und merkten an, dass es keinen einzelnen Ort gäbe, an dem man den Stecker ziehen könnte.

Die Forscher kamen zu dem Schluss, dass sich Modelle nur dann wahrscheinlich selbst vervielfältigen könnten, wenn sie vergleichsweise klein sind, und dass Haushalte und Kleinunternehmen wohl zuerst betroffen wären. Als verwundbar eingestufte Geräte verfügen über kleine eingebaute KI-Chips, darunter Smart-Backöfen, Smart-TVs, Mähroboter, Überwachungskameras und Videokonferenzsysteme. Im schlimmsten Fall, so die Forscher, könnten sich mehrere Würmer zusammenschließen und Computer-Hardware angreifen.

Das Team räumt ein, dass unklar ist, welche Form eine solche Vervielfältigung annehmen würde. Denkbar sind ein langsam ausbreitender „digitaler Schleimpilz“, ein Modell, das Menschen um Rechenguthaben betrügt, oder ein leistungsstarkes Cyber-Modell, das große Anlagen wie Rechenzentren rasch kompromittiert. Die Forscher drängen darauf, Systeme gegen diese Replikatoren zu härten, und sich zugleich darauf vorzubereiten, dass sie dauerhaft Teil der Welt werden könnten.

Wachsende Sorge um die KI-Sicherheit

Die Warnung fällt in eine Phase großer Besorgnis über die Sicherheit von KI. In den vergangenen Monaten haben Unternehmen wie Anthropic und OpenAI berichtet, dass ihre Agenten eigenständig handeln und in andere Firmen und staatliche Stellen eindringen können. Anthropic-Chef Dario Amodei und OpenAI-Chef Sam Altman gehören zu denjenigen, die eine Verlangsamung und strengere Leitplanken fordern, obwohl beide Unternehmen weiterhin neue Modelle entwickeln und veröffentlichen. Die Forscher von Anthropic erwarten eine Zukunft, in der Agenten auf jeder Art von Hardware laufen, einige davon außerhalb menschlicher Kontrolle.