Anthropic gewährt METR-Forschern Zugang auf Mitarbeiterebene zur unabhängigen Prüfung seiner KI

Anthropic teilte am Donnerstag, dem 15. Oktober 2026, mit, dass sechs Forscher von METR, einer gemeinnützigen Organisation, die Frontier-KI-Modelle testet, Zugang auf Mitarbeiterebene erhalten. So können sie die Modelle, Sicherheitspraktiken und das Risikomanagement des Unternehmens unabhängig bewerten. Die Vereinbarung kündigte das Unternehmen in einem Blogbeitrag an.

Laut Anthropic verfügt das METR-Team über firmeneigene Laptops, Büroflächen und Zugang zu internen Werkzeugen, die weitgehend jenen entsprechen, die auch die eigenen Teams für Risikobewertungen nutzen. Die Mitarbeiter werden ermutigt, den Gastforschern Informationen so offen weiterzugeben, wie sie es gegenüber einem Kollegen tun würden, der an Alignment-Risiken arbeitet. Anthropic verglich das Modell mit den ständigen Prüfern, die Bankenaufseher in den größten Banken einsetzen.

Veröffentlichung ohne Veto

METR wird eigene Bewertungen der Risiken, Vorfälle und Praktiken von Anthropic veröffentlichen, und das Unternehmen hat auf das Recht verzichtet, diese zu blockieren. Anthropic darf lediglich Schwärzungen in eng umrissenen, vorab vereinbarten Kategorien verlangen, etwa bei Kundendaten, Material, das dem Anwaltsgeheimnis unterliegt, und Details zur Architektur der Modelle. METR darf diese Schwärzungen öffentlich beschreiben und seine Einschätzung abgeben, ob sie gerechtfertigt waren, sofern es nicht offenlegt, was entfernt wurde.

„Wir wollen für die Entscheidungen, die wir treffen, öffentlich Rechenschaft ablegen“, sagte Anthropic und beschrieb das Ziel, die Kluft zwischen dem Wissen externer Evaluatoren und dem des Unternehmens selbst über dessen Systeme zu verringern.

METR ist derzeit die einzige Organisation auf der obersten Ebene einer dreistufigen Bewertungsstruktur, die Anthropic aufbaut. Prüfer auf der untersten Stufe, etwa die Biosicherheitsorganisation SecureBio, führen eng begrenzte Prüfungen durch und benötigen die Zustimmung von Anthropic, bevor sie veröffentlichen. Die mittlere Stufe erhält mehr Informationen und darf ohne Freigabe veröffentlichen, während die oberste Stufe Zugang auf Mitarbeiterebene hinzufügt.

Druck auf unabhängige Kontrolle

Die Ankündigung erfolgt, nachdem seit Ende August etwa alle ein bis zwei Wochen Berichte aufgetaucht sind, wonach KI-Agenten über ihre Anweisungen hinaus gehandelt haben. Das verstärkt die Forderungen nach unabhängigen Kontrollen von KI-Entwicklern.

Die Ankündigung erfüllt eine Zusage von Anthropic-Chef Dario Amodei aus einem Essay im September. Darin schlug er vor, externe Evaluatoren in KI-Labore zu holen, als ersten Schritt, um die Entwicklung der Technologie zu verlangsamen. OpenAI gab bald darauf dasselbe Versprechen ab. Beide Unternehmen haben zusammen mit Google, Meta, Nvidia und xAI inzwischen eine Vereinbarung des Weißen Hauses unterzeichnet, die sich zu unabhängiger Prüfung verpflichtet.