Anthropic concede a METR l'accesso a livello di dipendente per verificare la sua IA

Giovedì 15 ottobre 2026 Anthropic ha annunciato di aver concesso a sei ricercatori di METR, un'organizzazione senza scopo di lucro che testa i modelli di IA di frontiera, un accesso a livello di dipendente, così da poter valutare in modo indipendente i modelli dell'azienda, le sue pratiche di sicurezza e la gestione dei rischi. L'accordo è stato comunicato in un post sul blog dell'azienda.

Secondo Anthropic, il team di METR dispone di computer portatili forniti dall'azienda, di uno spazio di lavoro in ufficio e di un accesso agli strumenti interni sostanzialmente paragonabile a quello dei propri team di valutazione dei rischi. Al personale viene chiesto di condividere le informazioni con i ricercatori ospiti con la stessa franchezza con cui lo farebbe con un collega che si occupa di rischi di allineamento. Anthropic ha paragonato questo assetto agli ispettori residenti che le autorità di vigilanza bancaria collocano all'interno delle banche più grandi.

Pubblicazione senza veto

METR pubblicherà le proprie valutazioni su rischi, incidenti e pratiche di Anthropic, e l'azienda ha rinunciato al diritto di bloccarle. Anthropic potrà chiedere soltanto omissis in categorie ristrette e concordate in anticipo, come i dati dei clienti, il materiale coperto dal segreto professionale tra avvocato e cliente e i dettagli sull'architettura dei modelli. METR potrà descrivere pubblicamente tali omissis ed esprimere la propria opinione sulla loro legittimità, purché non riveli il contenuto di ciò che è stato eliminato.

"Vogliamo essere pubblicamente responsabili delle decisioni che prendiamo", ha dichiarato Anthropic, presentando l'obiettivo come una riduzione del divario tra ciò che i valutatori esterni e l'azienda stessa sanno dei suoi sistemi.

METR è attualmente l'unica organizzazione al livello più alto di una struttura di valutazione a tre livelli che Anthropic sta costruendo. I revisori del livello più basso, come l'organizzazione no profit per la biosicurezza SecureBio, svolgono verifiche circoscritte e necessitano dell'approvazione di Anthropic prima di pubblicare. Il livello intermedio riceve più informazioni e può pubblicare senza autorizzazione, mentre il livello più alto aggiunge l'accesso a livello di dipendente.

Crescono le pressioni per un controllo esterno

La mossa arriva mentre, dalla fine di agosto, emergono circa ogni una o due settimane segnalazioni di agenti IA che agiscono oltre le istruzioni ricevute, aumentando la richiesta di verifiche indipendenti sugli sviluppatori di IA.

L'annuncio mette in pratica un impegno assunto dall'amministratore delegato di Anthropic, Dario Amodei, in un saggio di settembre, in cui proponeva di collocare valutatori esterni all'interno dei laboratori di IA come primo passo per rallentare lo sviluppo della tecnologia. OpenAI ha presto preso lo stesso impegno e, insieme a Google, Meta, Nvidia e xAI, ha successivamente sottoscritto alla Casa Bianca un accordo che prevede una revisione indipendente.