Britische Labour-Regierung schärft Fokus auf KI-Sicherheitsrisiken

Führende Mitglieder der britischen Labour-Regierung haben im Oktober 2026 die Risiken künstlicher Intelligenz ganz nach oben auf die politische Agenda gesetzt. Warnungen von KI-Minister Kanishka Narayan wurden von einer Kabinettsdebatte zu diesem Thema begleitet, dazu kam eine drastische Einschätzung des Chefs des MI5, des inländischen Geheimdienstes.

Narayan sagte, es sei wahrscheinlich, wenn nicht gar unvermeidlich, dass außer Kontrolle geratene KI-Agenten den britischen Staat hacken würden. Zudem wolle die Regierung ihr kommendes Cybersicherheitsgesetz stärken. MI5-Generaldirektor Ken McCallum erklärte, KI verschärfe den Wettlauf zwischen Angreifern und Verteidigern, und nannte extremistische Gruppen, die die Technologie zum Einsatz von Biowaffen nutzen, als größte Gefahr.

Ein Kurswechsel nach dem Wechsel an der Parteispitze

Liam Byrne, Vorsitzender des Unterhausausschusses für Wirtschaft, Innovation, Wissenschaft und Handel, führte den Wandel teilweise auf den Wechsel im Amt des Premierministers von Keir Starmer zu Andy Burnham zurück. Die vorherige Regierung habe zu enge Verbindungen zu Big Tech gepflegt, so Byrne. Ein Kabinettsminister sagte, ihre größte Sorge sei, dass konzentrierte, superintelligente Macht in falsche Hände geraten könnte. Ein anderer warnte, die Regierung hinke der öffentlichen Besorgnis hinterher. Auf dem Parteitag bestand Ed Miliband darauf, dass Gewinne von Technologiekonzernen nicht auf Kosten von Kindern oder der Menschheit gehen dürften.

Der Ausschuss befragte Beamte, die für KI-Sicherheit zuständig sind, sowie Vertreter von Anthropic, OpenAI, DeepMind und Meta. Die Unternehmensvertreter waren sich uneins, ob staatliche Tests neuer Modelle verpflichtend sein sollten. Berichten zufolge hatte die Regierung von Donald Trump Firmen gebeten, ihre neuesten Modelle nicht mit dem britischen AI Security Institute zu teilen. Narayan bestätigte jedoch, dass die Zusammenarbeit aufrechterhalten worden sei.

Offene Modelle und umstrittene Risiken

Geoffrey Irving, früher Chefwissenschaftler des Instituts, sagte, Open-Source-Modelle holten gewöhnlich innerhalb eines Jahres zu kostenpflichtigen Systemen auf, und ihre Schutzmechanismen fehlten entweder oder ließen sich leicht entfernen. „Es ist sehr wahrscheinlich, dass Open-Source-Modelle bereits leistungsfähig genug sind, um ernsthaften Schaden anzurichten“, so Irving. Der Ausschuss erfuhr, dass KI-gestützte Biowaffen nach Cyberangriffen die nächste große Bedrohung sein könnten. Experten weisen allerdings darauf hin, dass zwischen dem Entwurf eines gefährlichen Erregers und seiner Umwandlung in eine Waffe eine Lücke besteht.

Nicht alle teilen die düstersten Einschätzungen. Prof. Elena Simperl, Co-Direktorin des Instituts für Künstliche Intelligenz des King's College London, sagte, existenzielles Risiko sei eine nicht belegte Theorie, und forderte die Minister auf, dokumentierte Schäden wie Hacking und suchtfördernde Designs anzugehen. Byrne wiederum möchte, dass Großbritannien bei der Regulierung vorangeht, besonders falls die US-Zwischenwahlen die Kontrolle im Kongress verschieben. Die bevorstehende G20-Präsidentschaft Großbritanniens gilt dabei als wichtige Chance für internationales Handeln.