Anthropic concede ai valutatori di METR un accesso interno simile a quello dei dipendenti

Il 15 ottobre 2026 Anthropic ha annunciato che concederà un "accesso simile a quello dei dipendenti" a sei valutatori di METR, una organizzazione no-profit che testa i modelli di IA all'avanguardia. L'azienda ha presentato la mossa come un tentativo di ridurre il divario tra ciò che i valutatori esterni sanno dei sistemi di un laboratorio all'avanguardia e ciò che il laboratorio sa di se stesso.

Secondo Anthropic, il personale di METR riceverà hardware aziendale e uno spazio in ufficio. Potrà utilizzare strumenti e sistemi interni praticamente paragonabili a quelli a disposizione dei team di valutazione dei rischi di Anthropic, e i dipendenti sono invitati a condividere informazioni con loro come farebbero con un collega. Restano esclusi alcuni pochi ambiti, tra cui i dati dei clienti, il materiale coperto dal segreto professionale tra avvocato e cliente e i dettagli sull'architettura dei modelli.

I risultati saranno pubblicati

METR pubblicherà ciò che scoprirà, e ad Anthropic non sarà consentito trattenere alcunché, anche se l'azienda potrà chiedere di oscurare i dettagli sensibili, ove necessario. Anthropic ha dichiarato di non poter rendere pubblico tutto ciò che riguarda il proprio lavoro sulla sicurezza, sostenendo che alcune informazioni potrebbero aiutare malintenzionati o avere un valore commerciale sensibile, come la capacità di calcolo e i dati di addestramento.

Il CEO Dario Amodei aveva già ipotizzato l'idea di integrare valutatori di gruppi come METR in un post sul blog di settembre, inserendola tra tre proposte per gestire il ritmo dello sviluppo di frontiera.

Un vuoto normativo negli Stati Uniti

Attualmente la legge statunitense non impone test affidati a terzi. Il FRONTIER Act, un disegno di legge bipartisan presentato a luglio, obbligherebbe alcuni sviluppatori di IA a consentire a organizzazioni di verifica indipendenti di esaminare la sicurezza dei propri processi di sviluppo. A metà settembre OpenAI ha manifestato un sostegno almeno parziale al provvedimento, la prima volta che ha appoggiato una proposta di regolamentazione federale sull'IA.

Sotto l'amministrazione Trump, la vigilanza federale si è basata in larga misura su impegni volontari, con cui i principali laboratori si sono impegnati a segnalare problemi dei modelli e a collaborare con revisori esterni, impegni privi di qualsiasi forza giuridica. La pressione, tuttavia, è cresciuta: il governo ha annunciato che inizierà a obbligare le aziende di IA a comunicare gli incidenti di sicurezza, dopo che Anthropic ha rivelato che Claude aveva inviato alla polizia una falsa segnalazione di omicidio, e la Federal Trade Commission ha emesso citazioni in giudizio nei confronti sia di OpenAI sia di Anthropic per timori di danni ai consumatori.

Non è chiaro se Anthropic stia semplicemente portando avanti un piano già esistente o si stia posizionando in anticipo rispetto a una possibile legislazione. In ogni caso, concedere a un revisore esterno un accesso interno così profondo è descritto come una prima assoluta per il settore.