Projeto da Anthropic permitiria que tribunais suspendam modelos de IA diante de catástrofe iminente

A Anthropic elaborou um projeto de lei federal sobre IA para o Congresso dos EUA que permitiria a um juiz suspender um modelo de fronteira apenas diante de um risco catastrófico iminente, segundo a Politico, que citou uma cópia do rascunho confidencial e três fontes anônimas. O texto ainda não foi apresentado e a empresa não o publicou. Uma cópia apresentada como sendo o rascunho circula online desde pelo menos 17 de outubro de 2026, embora a Anthropic não tenha confirmado sua autenticidade.

Um porta-voz da Anthropic confirmou que a proposta se baseia no Advanced AI Framework, lançado pela empresa em junho e desde então apresentado a legisladores federais e estaduais, e descreveu as medidas como "razoáveis, que acreditamos que o Congresso deveria adotar".

Como funcionaria um bloqueio

Pelo rascunho, avaliadores independentes registrados no Departamento de Comércio revisariam periodicamente os laboratórios e seus modelos de fronteira. Os laboratórios poderiam pagar por essas avaliações, desde que o pagamento não dependesse do resultado. Um avaliador que identificasse um risco iminente previsto na lei teria 72 horas para alertar o Departamento de Comércio, que poderia então pedir a um juiz federal em Washington que suspendesse o modelo. Os riscos que acionariam o mecanismo são a criação ou disseminação de armas biológicas, ataques cibernéticos e a perda de controle do modelo por parte de seu desenvolvedor.

Uma leitura do texto vazado publicado no LessWrong afirma que o ônus da prova cabe ao secretário de Comércio, que o bloqueio deve ser a medida menos restritiva possível e que as ordens expiram após 45 dias. Nenhuma outra agência federal poderia suspender um modelo sob essa lei. Os laboratórios também precisariam de um arcabouço de segurança, relatórios de transparência publicados, proteções para denunciantes e comunicação de incidentes críticos.

O limite de 50 pessoas espelha a lei SB 53 da Califórnia, sancionada em 29 de setembro de 2025, e o FRONTIER Act, de caráter bipartidário, apresentado na Câmara em 23 de julho de 2026 por Lori Trahan e Jay Obernolte. Diferentemente desse projeto, que permite ao secretário suspender um modelo com base em uma justificativa escrita antes de qualquer audiência, a versão da Anthropic coloca o juiz em primeiro lugar e apenas registra os avaliadores, sem licenciá-los.

Preempção gera as críticas mais duras

A disposição mais controversa anularia algumas regras estaduais sobre divulgação de riscos, avaliação por terceiros e comunicação de incidentes, áreas cobertas pela SB 53 e pela RAISE Act de Nova York, ambas apoiadas pela Anthropic. O deputado estadual de Nova York Alex Bores, autor da RAISE Act, afirma que o rascunho é mais fraco que o próprio arcabouço da Anthropic e, em pontos como o uso interno de modelos e os prazos de comunicação, mais fraco que a legislação estadual vigente.

Charlie Bullock, do Institute for Law & AI, considerou o texto razoavelmente equilibrado, mas mais fraco que o FRONTIER Act em poderes de regulamentação e de desligamento de emergência, alertando que auditores sem licença poderiam competir por condescendência. Nathan Calvin, da Encode, argumenta que pedir aos juízes que avaliem o dano aos desenvolvedores tornaria os bloqueios mais difíceis de obter, enquanto o analista do LessWrong sustenta que um caminho jurídico explícito tornaria uma suspensão federal mais provável do que no direito atual.