Anthropic accorde aux évaluateurs de METR un accès interne comparable à celui de ses salariés

Anthropic a annoncé le 15 octobre 2026 qu'elle accordait un « accès comparable à celui d'un salarié » à six évaluateurs de METR, une organisation à but non lucratif qui teste les modèles d'IA de pointe. L'entreprise présente cette décision comme un moyen de réduire l'écart entre ce que les évaluateurs externes savent des systèmes d'un laboratoire de pointe et ce que le laboratoire sait lui-même.

Selon Anthropic, les membres de METR se sont vu attribuer du matériel informatique de l'entreprise ainsi qu'un espace de bureaux. Ils peuvent utiliser des outils et systèmes internes à peu près comparables à ceux dont disposent les équipes d'évaluation des risques d'Anthropic, et les employés sont encouragés à partager des informations avec eux comme ils le feraient avec un collègue. Un petit nombre de catégories restent exclues, notamment les données clients, les documents couverts par le secret professionnel avocat-client et les détails sur l'architecture des modèles.

Les conclusions seront publiées

METR publiera ses conclusions, et Anthropic ne pourra en retenir aucune partie, même si l'entreprise pourra demander que certains détails sensibles soient occultés si nécessaire. Anthropic affirme ne pas pouvoir tout divulguer publiquement sur ses travaux de sécurité, estimant que certaines informations pourraient aider des acteurs malveillants ou revêtent une sensibilité commerciale, comme les ressources de calcul et les données d'entraînement.

Le PDG Dario Amodei avait évoqué l'idée d'intégrer des évaluateurs issus d'organisations comme METR dans un billet de blog publié en septembre, la présentant comme l'une des trois propositions pour encadrer le rythme du développement des modèles de pointe.

Un vide réglementaire aux États-Unis

Les tests réalisés par des tiers ne sont actuellement pas exigés par la loi américaine. Le FRONTIER Act, un projet de loi bipartisan présenté en juillet, obligerait certains développeurs d'IA à permettre à des organismes de vérification indépendants d'examiner la sécurité de leurs processus de développement. OpenAI a laissé entendre à la mi-septembre qu'elle soutenait au moins partiellement ce texte, une première pour l'entreprise, qui n'avait jamais approuvé auparavant une proposition de réglementation fédérale de l'IA.

Sous l'administration Trump, la surveillance fédérale a largement reposé sur des engagements volontaires par lesquels les grands laboratoires promettaient de signaler les problèmes liés à leurs modèles et de collaborer avec des auditeurs externes, des engagements dépourvus de force juridique. La pression s'accentue néanmoins : le gouvernement a annoncé qu'il commencerait à exiger des entreprises d'IA qu'elles déclarent les incidents de sécurité, après qu'Anthropic a révélé que Claude avait envoyé à la police un faux signalement d'homicide, et la Federal Trade Commission a assigné OpenAI et Anthropic à comparaître au sujet de préjudices causés aux consommateurs.

On ignore si Anthropic se contente de mettre en œuvre un plan existant ou si elle se positionne en prévision d'une éventuelle législation. Quoi qu'il en soit, accorder à un auditeur externe un accès interne aussi approfondi est décrit comme une première pour le secteur.