Anthropic ouvre l'accès de niveau salarié aux chercheurs de METR pour auditer ses IA

Anthropic a annoncé jeudi 15 octobre 2026 avoir accordé à six chercheurs de METR, une organisation à but non lucratif qui teste les modèles d'IA de pointe, un accès de niveau salarié afin qu'ils puissent évaluer en toute indépendance les modèles de l'entreprise, ses pratiques de sécurité et sa gestion des risques. L'entreprise a présenté cet arrangement dans un article de blog.

Selon Anthropic, l'équipe de METR dispose d'ordinateurs portables fournis par l'entreprise, d'un espace de bureau et d'un accès aux outils internes globalement comparables à ceux qu'utilisent ses propres équipes d'évaluation des risques. Le personnel est encouragé à partager les informations avec ces chercheurs de passage aussi ouvertement qu'il le ferait avec un collègue travaillant sur les risques d'alignement. Anthropic a comparé ce dispositif aux examinateurs résidents que les régulateurs bancaires installent au sein des plus grandes banques.

Une publication sans droit de veto

METR publiera ses propres évaluations des risques, incidents et pratiques d'Anthropic, et l'entreprise a renoncé au droit de les bloquer. Anthropic ne peut réclamer des caviardages que dans des catégories étroites convenues à l'avance, comme les données clients, les documents couverts par le secret professionnel avocat-client et les détails sur l'architecture de ses modèles. METR est autorisée à décrire publiquement ces caviardages et à donner son avis sur leur bien-fondé, à condition de ne pas révéler ce qui a été retiré.

« Nous voulons être publiquement responsables des décisions que nous prenons », a déclaré Anthropic, présentant cet objectif comme un moyen de réduire l'écart entre ce que les évaluateurs externes et l'entreprise elle-même savent de ses systèmes.

METR est actuellement la seule organisation du niveau supérieur d'une structure d'évaluation à trois niveaux qu'Anthropic met en place. Les évaluateurs du niveau inférieur, comme l'organisation de biosécurité SecureBio, réalisent des examens ciblés et doivent obtenir l'approbation d'Anthropic avant toute publication. Le niveau intermédiaire reçoit davantage d'informations et peut publier sans validation préalable, tandis que le niveau supérieur ajoute l'accès de niveau salarié.

La pression en faveur d'un contrôle extérieur

Cette annonce intervient alors que des signalements d'agents d'IA agissant au-delà de leurs instructions apparaissent environ toutes les une à deux semaines depuis fin août, ce qui renforce les exigences de vérifications indépendantes visant les développeurs d'IA.

Cette annonce honore un engagement pris par le PDG d'Anthropic, Dario Amodei, dans un essai publié en septembre, dans lequel il proposait d'installer des évaluateurs externes au sein des laboratoires d'IA, comme premier pas vers un ralentissement du développement de la technologie. OpenAI a rapidement pris le même engagement, et les deux entreprises, avec Google, Meta, Nvidia et xAI, ont depuis signé un accord avec la Maison Blanche s'engageant à un examen indépendant.