OpenAI und Anthropic drängen britische Abgeordnete zu verbindlichen KI-Sicherheitsregeln

OpenAI und Anthropic sagten am 13. Oktober 2026 vor einem Ausschuss britischer Abgeordneter, die Sicherheit von KI sollte künftig auf gesetzlichen Vorgaben statt auf freiwilligen Versprechen beruhen. Google DeepMind und Meta lehnten es dagegen ab, neue Gesetze zu befürworten. Der fraktionsübergreifende Ausschuss für Wirtschaft, Innovation, Wissenschaft und Handel hörte vier Entwickler von Spitzen-KI-Modellen, vier frühere Mitarbeiter, die heute als Whistleblower auftreten, sowie hochrangige Beamte an.

Liam Booth-Smith, Europachef von Anthropic, sagte, das Unternehmen vertrete seit Langem die Position, dass Firmen verbindlichen Pflichten unterliegen sollten. „Die Regeln sollten verbindlich sein“, erklärte er dem Ausschuss. OpenAI-Vizepräsident Tom Duff Gordon äußerte sich zurückhaltender, unterstützte jedoch einen gesetzlichen Rahmen und ein internationales Abkommen. Er sagte, die Meldung von Vorfällen solle das erste verpflichtende Element sein, und allein auf freiwillige Zusagen zu setzen, sei für Risiken an der Grenze der Technik langfristig ein schlechter Plan.

Die Konkurrenz hielt sich zurück. Auf die direkte Frage, ob er einen gesetzlichen Rahmen unterstütze, sagte Owen Larter von Google DeepMind, das Unternehmen werde sich auf Standards konzentrieren. Rob Sherman von Meta verwies stattdessen auf die bestehenden britischen Aufsichtsbehörden und argumentierte, die Gesetzgeber fingen nicht bei null an.

Ein Prüfsystem ohne Biss

Danach räumten Beamte ein, wie wenig das bestehende System tatsächlich verlangt. Das britische AI Security Institute (AISI) bewertet Spitzenmodelle vor der Veröffentlichung nur dann, wenn Entwickler sie freiwillig einreichen. Direktor Henry de Zoete sagte, das Institut sei vollständig auf die Zusammenarbeit mit Unternehmen und ausländischen Regierungen angewiesen, zertifiziere keine Modelle und könne nicht verhindern, dass ein Unternehmen ein Modell veröffentlicht, das es für zu gefährlich hält. Cat Little, die oberste Beamtin im Cabinet Office, dem das AISI angegliedert ist, bestätigte, dass das Verfahren derzeit freiwillig ist.

Die Vertreter der Unternehmen machten außerdem deutlich, dass der britische Zugang faktisch über Washington läuft. Duff Gordon sagte, OpenAI teile Modelle vor dem Einsatz mit CAISI, dem US-Pendant des AISI, und werde dies auch für Großbritannien tun, solange die US-Regierung es erlaube. Booth-Smith erklärte, Anthropic sei zeitweise nicht in der Lage gewesen, dem AISI uneingeschränkten Zugang zu Mythos 5.1 zu gewähren, was er als Angelegenheit der US-Regierung bezeichnete. Er fügte jedoch hinzu, das Institut habe inzwischen Zugang.

Frühere Forscher aus den Laboren, darunter Daniel Kokotajlo, Steven Adler und Geoffrey Irving, sagten den Abgeordneten, sie hielten es nicht für vertrauenswürdig, dass die Branche sich selbst kontrolliert. Am selben Tag nutzte MI5-Chef Ken McCallum sein jährliches Lagebild zur Bedrohungslage, um hervorzuheben, dass KI das Risiko biologischer Waffen erhöhen könnte. Dies bewertete er als den Missbrauchsfall, den er am schwersten gewichte.

Der Ausschussvorsitzende Liam Byrne sagte, die Sitzung solle die Lücke zwischen den Positionen der Unternehmen offenlegen und zeigen, dass man sich auf eine freiwillige Selbstregulierung nicht verlassen könne. Er wünscht sich, dass die Minister die bevorstehende G20-Präsidentschaft Großbritanniens nutzen, gemeinsam mit Südkorea, das den Vorsitz danach übernimmt, um ein internationales Abkommen zu vermitteln, das nicht vom aktuellen Weißen Haus abhängt.