Anthropic-Gesetzentwurf würde Gerichten erlauben, KI-Modelle bei drohender Katastrophe zu stoppen

Anthropic hat einen Entwurf für ein bundesweites KI-Gesetz für den US-Kongress ausgearbeitet, das es einem Richter nur bei einer unmittelbar drohenden katastrophalen Gefahr erlauben würde, ein Frontier-Modell auszusetzen. Das berichtet Politico, das sich auf eine Kopie des vertraulichen Entwurfs und drei anonyme Quellen beruft. Der Text wurde noch nicht eingebracht, und das Unternehmen hat ihn nicht veröffentlicht. Eine Kopie, die als dieser Entwurf ausgegeben wird, kursiert seit mindestens dem 17. Oktober 2026 online, Anthropic hat sie jedoch nicht bestätigt.

Ein Anthropic-Sprecher bestätigte, dass der Vorschlag auf dem Advanced AI Framework aufbaut, das das Unternehmen im Juni veröffentlicht und seitdem bei Abgeordneten auf Bundes- und Landesebene beworben hat. Er bezeichnete die Vorschläge als "vernünftige Maßnahmen, über die der Kongress unserer Ansicht nach entscheiden sollte".

So würde eine Blockade funktionieren

Nach dem Entwurf würden unabhängige Prüfer, die beim Handelsministerium registriert sind, Labore und deren Frontier-Modelle regelmäßig überprüfen. Die Labore könnten sie bezahlen, sofern die Vergütung nicht vom Ergebnis abhängt. Stellt ein Prüfer eine unmittelbar drohende, im Gesetz aufgeführte Gefahr fest, hätte er 72 Stunden Zeit, das Handelsministerium zu alarmieren. Dieses könnte dann einen Bundesrichter in Washington bitten, das Modell auszusetzen. Auslöser wären die Entwicklung oder Verbreitung von Biowaffen, Cyberangriffe und ein Modell, das sich der Kontrolle seines Entwicklers entzieht.

Eine Auswertung des auf LessWrong veröffentlichten, durchgesickerten Textes besagt, dass die Beweislast beim Handelsminister liegt, eine Blockade das mildeste verfügbare Mittel sein muss und Anordnungen nach 45 Tagen auslaufen. Keine andere Bundesbehörde könnte ein Modell nach diesem Gesetz stoppen. Die Labore bräuchten außerdem einen Sicherheitsrahmen, veröffentlichte Transparenzberichte, Schutz für Hinweisgeber und eine Meldepflicht für kritische Vorfälle.

Die Schwelle von 50 Personen entspricht dem kalifornischen SB 53, der am 29. September 2025 unterzeichnet wurde, sowie dem überparteilichen FRONTIER Act, der am 23. Juli 2026 von Lori Trahan und Jay Obernolte im Repräsentantenhaus eingebracht wurde. Anders als dieses Gesetz, das dem Minister erlaubt, ein Modell aufgrund einer schriftlichen Feststellung vor jeder Anhörung auszusetzen, stellt Anthropics Version den Richter an die erste Stelle und registriert Prüfer lediglich, statt sie zu lizenzieren.

Vorrangregel stößt auf heftigste Kritik

Die umstrittenste Bestimmung würde einige Landesregeln zur Offenlegung von Risiken, zur Prüfung durch Dritte und zur Meldung von Vorfällen außer Kraft setzen. Diese Bereiche regeln SB 53 und der RAISE Act von New York, beide von Anthropic unterstützt. Der New Yorker Abgeordnete Alex Bores, der den RAISE Act verfasst hat, sagt, der Entwurf sei schwächer als Anthropics eigener Rahmen und bei Punkten wie der internen Nutzung von Modellen und den Meldefristen schwächer als das bestehende Landesrecht.

Charlie Bullock vom Institute for Law & AI nannte den Entwurf ziemlich vernünftig, bei Regelsetzung und Notabschaltungsbefugnissen aber schwächer als der FRONTIER Act. Er warnte, unlizenzierte Prüfer könnten sich mit Nachsicht gegenseitig unterbieten. Nathan Calvin von Encode argumentiert, wenn Richter den Schaden für Entwickler abwägen müssten, würden Blockaden schwerer zu erreichen sein. Der LessWrong-Analyst hingegen meint, ein ausdrücklicher gesetzlicher Weg mache einen bundesweiten Stopp wahrscheinlicher als das geltende Recht.