Anthropic concede a avaliadores da METR acesso interno semelhante ao de funcionários

A Anthropic anunciou em 15 de outubro de 2026 que dará "acesso semelhante ao de funcionários" a seis avaliadores da METR, organização sem fins lucrativos que testa modelos de IA de fronteira. A empresa apresentou a medida como uma tentativa de reduzir a distância entre o que avaliadores externos sabem sobre os sistemas de um laboratório de fronteira e o que o próprio laboratório conhece.

Segundo a Anthropic, a equipe da METR recebeu equipamentos da empresa e espaço de escritório. Os avaliadores podem usar ferramentas e sistemas internos aproximadamente comparáveis aos disponíveis para as equipes de avaliação de riscos da própria Anthropic, e os funcionários são incentivados a compartilhar informações com eles como fariam com um colega. Um pequeno conjunto de categorias continua fora de alcance, incluindo dados de clientes, material protegido por sigilo advogado-cliente e detalhes da arquitetura dos modelos.

Resultados serão publicados

A METR publicará o que encontrar, e a Anthropic não terá permissão para reter nenhuma parte dessas conclusões, embora a empresa possa pedir que detalhes sensíveis sejam omitidos quando necessário. A Anthropic afirmou que não pode divulgar publicamente tudo sobre seu trabalho de segurança, argumentando que algumas informações poderiam ajudar agentes mal-intencionados ou são comercialmente sensíveis, como as relacionadas a capacidade computacional e dados de treinamento.

O CEO Dario Amodei citou a ideia de incorporar avaliadores de grupos como a METR em um post de blog de setembro, listando-a como uma de três propostas para administrar o ritmo do desenvolvimento de fronteira.

Um vácuo regulatório nos EUA

Testes realizados por terceiros não são atualmente exigidos pela legislação dos EUA. A FRONTIER Act, projeto de lei bipartidário apresentado em julho, obrigaria certos desenvolvedores de IA a permitir que organizações independentes de verificação analisem a segurança de seus processos de desenvolvimento. A OpenAI sinalizou apoio, ao menos parcial, ao projeto em meados de setembro, a primeira vez que endossou alguma proposta federal de regulação de IA.

Sob o governo Trump, a fiscalização federal dependeu em grande parte de compromissos voluntários, nos quais os principais laboratórios prometeram sinalizar preocupações com modelos e trabalhar com auditores externos, compromissos sem força legal. A pressão, porém, vem aumentando: o governo disse que passará a exigir que empresas de IA divulguem incidentes de segurança depois que a Anthropic revelou que o Claude enviou à polícia uma falsa denúncia de homicídio, e a Comissão Federal de Comércio intimou tanto a OpenAI quanto a Anthropic por preocupações com danos a consumidores.

Não está claro se a Anthropic apenas está cumprindo um plano existente ou se está se posicionando diante de uma possível legislação. De qualquer forma, conceder a um auditor externo esse nível de acesso interno é descrito como inédito no setor.