Anthropic concede a evaluadores de METR un acceso interno similar al de sus empleados

Anthropic anunció el 15 de octubre de 2026 que concederá un «acceso similar al de un empleado» a seis evaluadores de METR, una organización sin ánimo de lucro que somete a pruebas los modelos de IA más avanzados. La compañía presentó la medida como un intento de reducir la distancia entre lo que saben los evaluadores externos sobre los sistemas de un laboratorio de vanguardia y lo que sabe el propio laboratorio.

Según Anthropic, el personal de METR recibirá equipos informáticos de la empresa y un espacio de oficina. Podrá utilizar herramientas y sistemas internos en un nivel similar al de los equipos de evaluación de riesgos de Anthropic, y se anima a los empleados a compartir información con ellos como lo harían con un compañero. Siguen excluidas algunas categorías concretas, como los datos de clientes, el material amparado por el secreto profesional abogado-cliente y los detalles de la arquitectura de los modelos.

Los hallazgos se publicarán

METR publicará lo que descubra, y Anthropic no podrá ocultar ninguna parte de ello, aunque la empresa podrá pedir que se supriman datos sensibles cuando sea necesario. Anthropic reconoció que no puede dar a conocer públicamente todos los detalles de su trabajo en seguridad, y argumentó que parte de la información podría ayudar a actores malintencionados o tiene un valor comercial sensible, como la capacidad de cómputo y los datos de entrenamiento.

El director ejecutivo, Dario Amodei, planteó en una entrada de blog de septiembre la idea de integrar evaluadores de grupos como METR, y la incluyó como una de tres propuestas para gestionar el ritmo del desarrollo de la IA de vanguardia.

Un vacío regulatorio en Estados Unidos

La ley estadounidense no exige actualmente pruebas por parte de terceros. La FRONTIER Act, un proyecto de ley bipartidista presentado en julio, obligaría a ciertos desarrolladores de IA a permitir que organizaciones independientes de verificación revisen la seguridad de sus procesos de desarrollo. OpenAI dio a entender a mediados de septiembre un apoyo al menos parcial a la propuesta, por primera vez que respaldaba una normativa federal de IA propuesta.

Bajo la administración Trump, la supervisión federal se ha basado en gran medida en compromisos voluntarios, en los que los principales laboratorios prometieron señalar problemas de sus modelos y colaborar con auditores externos, compromisos que no tienen fuerza legal. Sin embargo, la presión ha ido en aumento: el Gobierno anunció que empezaría a exigir a las empresas de IA que informen de incidentes de seguridad después de que Anthropic revelara que Claude había enviado a la policía un aviso falso de homicidio, y la Comisión Federal de Comercio ha citado a OpenAI y a Anthropic por preocupaciones sobre daños a los consumidores.

No está claro si Anthropic simplemente cumple un plan existente o se posiciona ante una posible legislación. En cualquier caso, conceder a un auditor externo este nivel de acceso interno se describe como un hecho sin precedentes en el sector.