La bozza di legge di Anthropic permetterebbe ai tribunali di bloccare i modelli di IA in caso di catastrofe imminente

Anthropic ha redatto una proposta di legge federale sull'IA per il Congresso degli Stati Uniti che permetterebbe a un giudice di sospendere un modello di frontiera solo di fronte a un rischio catastrofico imminente, secondo quanto riferito da Politico, che cita una copia della bozza riservata e tre fonti anonime. Il testo non è stato presentato e l'azienda non lo ha pubblicato. Una copia presentata come la bozza circola online almeno dal 17 ottobre 2026, anche se Anthropic non ne ha autenticato il contenuto.

Un portavoce di Anthropic ha confermato che la proposta si basa sull'Advanced AI Framework, rilasciato dall'azienda a giugno e da allora promosso presso i legislatori federali e statali, e l'ha descritta come "misure ragionevoli su cui riteniamo che il Congresso debba agire".

Come funzionerebbe un blocco

Secondo la bozza, valutatori indipendenti registrati presso il Dipartimento del Commercio esaminerebbero periodicamente i laboratori e i loro modelli di frontiera. I laboratori potrebbero pagarli, purché il compenso non dipenda dall'esito della valutazione. Un valutatore che individuasse un rischio imminente tra quelli previsti avrebbe 72 ore per avvisare il Commercio, che potrebbe poi chiedere a un giudice federale di Washington di sospendere il modello. I rischi che fanno scattare la misura sono la creazione o diffusione di armi biologiche, gli attacchi informatici e la fuga di un modello dal controllo del suo sviluppatore.

Una lettura del testo trapelato pubblicato su LessWrong indica che l'onere della prova spetta al segretario al Commercio, che il blocco deve essere il rimedio meno restrittivo possibile e che gli ordini decadono dopo 45 giorni. Nessun'altra agenzia federale potrebbe bloccare un modello in base a questa legge. I laboratori dovrebbero inoltre dotarsi di un quadro di sicurezza, pubblicare rapporti sulla trasparenza, tutelare i segnalanti di illeciti e comunicare gli incidenti critici.

La soglia di 50 persone riprende quella della SB 53 della California, firmata il 29 settembre 2025, e del FRONTIER Act bipartisan presentato alla Camera il 23 luglio 2026 da Lori Trahan e Jay Obernolte. A differenza di quella legge, che consente al segretario di sospendere un modello sulla base di una constatazione scritta prima di qualsiasi udienza, la versione di Anthropic mette prima il giudice e si limita a registrare i valutatori invece di concedere loro una licenza.

La clausola di prevalenza suscita le critiche più dure

La disposizione più controversa scavalcherebbe alcune norme statali su divulgazione dei rischi, valutazione da parte di terzi e segnalazione degli incidenti, ambiti coperti dalla SB 53 e dal RAISE Act di New York, entrambi sostenuti da Anthropic. Alex Bores, membro dell'Assemblea di New York che ha scritto il RAISE Act, sostiene che la bozza sia più debole del quadro dell'azienda stessa e, su punti come l'uso interno dei modelli e le scadenze per le segnalazioni, più debole della legge statale vigente.

Charlie Bullock dell'Institute for Law & AI la considera ragionevole nel complesso, ma più debole del FRONTIER Act per quanto riguarda le norme attuative e i poteri di arresto d'emergenza, e avverte che revisori senza licenza potrebbero farsi concorrenza abbassando il livello di severità. Nathan Calvin di Encode sostiene che chiedere ai giudici di valutare il danno per gli sviluppatori renderebbe più difficile ottenere un blocco, mentre l'analista di LessWrong ritiene che un percorso giuridico esplicito renderebbe più probabile un arresto federale rispetto alla normativa attuale.