Anthropic da a investigadores de METR acceso de nivel empleado para auditar su IA

Anthropic afirmó el jueves 15 de octubre de 2026 que ha dado a seis investigadores de METR, una organización sin ánimo de lucro que somete a pruebas los modelos de IA de frontera, acceso de nivel empleado para que puedan evaluar de forma independiente los modelos de la compañía, sus prácticas de seguridad y su gestión de riesgos. La empresa anunció el acuerdo en una entrada de su blog.

Según Anthropic, el equipo de METR dispone de portátiles proporcionados por la compañía, espacio de oficina y acceso a herramientas internas muy similares a las que usan sus propios equipos de evaluación de riesgos. Al personal se le anima a compartir información con los investigadores visitantes con la misma franqueza que lo haría con un colega que trabaja en riesgos de alineación. Anthropic comparó este esquema con los examinadores residentes que los reguladores bancarios sitúan dentro de los mayores bancos.

Publicación sin veto

METR publicará sus propias evaluaciones sobre los riesgos, incidentes y prácticas de Anthropic, y la compañía ha renunciado al derecho a bloquearlas. Anthropic solo podrá exigir supresiones en categorías estrechas y acordadas de antemano, como datos de clientes, material amparado por el secreto profesional abogado-cliente y detalles de la arquitectura de sus modelos. METR podrá describir públicamente esas supresiones y expresar su opinión sobre si estaban justificadas, siempre que no revele qué se eliminó.

«Queremos rendir cuentas públicamente de las decisiones que tomamos», afirmó Anthropic, al plantear el objetivo como reducir la brecha entre lo que saben los evaluadores externos y lo que sabe la propia compañía sobre sus sistemas.

METR es actualmente la única organización en el nivel superior de una estructura de evaluación de tres niveles que Anthropic está construyendo. Los revisores del nivel inferior, como la organización sin ánimo de lucro de bioseguridad SecureBio, realizan revisiones acotadas y necesitan la aprobación de Anthropic antes de publicar. El nivel intermedio recibe más información y puede publicar sin autorización, mientras que el nivel superior añade acceso de nivel empleado.

Presión por un escrutinio externo

El anuncio llega en un momento en que, desde finales de agosto, han surgido informes de agentes de IA que actúan más allá de sus instrucciones aproximadamente cada una o dos semanas, lo que intensifica las exigencias de controles independientes a los desarrolladores de IA.

El anuncio cumple un compromiso del director ejecutivo de Anthropic, Dario Amodei, en un ensayo de septiembre, en el que propuso situar a evaluadores externos dentro de los laboratorios de IA como primer paso para frenar el desarrollo de la tecnología. OpenAI asumió poco después el mismo compromiso, y ambas empresas, junto con Google, Meta, Nvidia y xAI, han firmado desde entonces un acuerdo con la Casa Blanca que se compromete a una revisión independiente.