Anthropic gewährt METR-Prüfern mitarbeiterähnlichen internen Zugang

Anthropic hat am 15. Oktober 2026 angekündigt, sechs Prüfern der gemeinnützigen Organisation METR, die Frontier-KI-Modelle testet, einen „mitarbeiterähnlichen Zugang“ zu gewähren. Das Unternehmen begründet den Schritt damit, die Wissenslücke zwischen externen Prüfern und dem Labor selbst über die Systeme eines Frontier-KI-Labors verringern zu wollen.

Laut Anthropic wurden den METR-Mitarbeitern Firmenhardware und Büroflächen zur Verfügung gestellt. Sie können interne Werkzeuge und Systeme nutzen, die weitgehend jenen entsprechen, die den eigenen Risikobewertungsteams von Anthropic zur Verfügung stehen. Die Beschäftigten sind zudem angehalten, Informationen so mit ihnen zu teilen, wie sie es mit einem Kollegen tun würden. Einige wenige Kategorien bleiben jedoch tabu, darunter Kundendaten, anwaltlich privilegiertes Material und Details zu Modellarchitekturen.

Ergebnisse werden veröffentlicht

METR wird veröffentlichen, was die Organisation herausfindet, und Anthropic darf nichts davon zurückhalten. Das Unternehmen kann jedoch bei Bedarf darum bitten, sensible Details zu schwärzen. Anthropic erklärte, nicht alles über seine Sicherheitsarbeit öffentlich machen zu können, da manche Informationen böswilligen Akteuren helfen oder kommerziell sensibel seien, etwa Angaben zu Rechenleistung und Trainingsdaten.

CEO Dario Amodei brachte in einem Blogbeitrag im September die Idee ins Spiel, Prüfer von Organisationen wie METR direkt einzubinden. Er nannte sie als einen von drei Vorschlägen, um das Tempo der Entwicklung von Frontier-Modellen zu steuern.

Eine regulatorische Lücke in den USA

Die Prüfung durch Dritte ist in den USA derzeit gesetzlich nicht vorgeschrieben. Der FRONTIER Act, ein im Juli eingebrachter überparteilicher Gesetzentwurf, würde bestimmte KI-Entwickler verpflichten, unabhängigen Prüforganisationen die Überprüfung ihrer Entwicklungsprozesse auf Sicherheit zu erlauben. OpenAI signalisierte Mitte September zumindest teilweise Unterstützung für den Entwurf, und zum ersten Mal unterstützte das Unternehmen damit einen vorgeschlagenen bundesweiten KI-Regulierungsvorschlag.

Unter der Trump-Regierung stützte sich die staatliche Aufsicht weitgehend auf freiwillige Selbstverpflichtungen, in denen große Labore zusagten, Bedenken zu Modellen zu melden und mit externen Prüfern zusammenzuarbeiten. Diese Zusagen haben keine rechtliche Bindung. Der Druck wächst jedoch: Die Regierung kündigte an, KI-Unternehmen zur Meldung von Sicherheitsvorfällen zu verpflichten, nachdem Anthropic offengelegt hatte, dass Claude der Polizei einen falschen Mordtipp geschickt hatte. Zudem hat die Federal Trade Commission sowohl OpenAI als auch Anthropic wegen möglicher Schäden für Verbraucher vorgeladen.

Unklar ist, ob Anthropic lediglich einen bestehenden Plan umsetzt oder sich auf mögliche Gesetze vorbereitet. In jedem Fall gilt die Gewährung eines solchen Zugangs in dieser Tiefe für einen externen Prüfer als Premiere für die Branche.