Anthropic beri peneliti METR akses setingkat karyawan untuk mengaudit AI

Anthropic mengumumkan pada Kamis, 15 Oktober 2026, bahwa pihaknya memberi enam peneliti dari METR, sebuah organisasi nirlaba yang menguji model AI tingkat lanjut, akses setingkat karyawan agar mereka dapat menilai secara independen model perusahaan, praktik keselamatan, dan manajemen risikonya. Perusahaan menyampaikan pengaturan ini dalam sebuah unggahan blog.

Menurut Anthropic, tim METR mendapatkan laptop dari perusahaan, ruang kantor, serta akses ke alat internal yang kurang lebih setara dengan yang digunakan tim penilaian risiko Anthropic sendiri. Staf didorong untuk berbagi informasi dengan para peneliti tamu seterbuka mereka kepada rekan kerja yang menangani risiko penyelarasan. Anthropic menyamakan pengaturan ini dengan pengawas residen yang ditempatkan regulator perbankan di dalam bank-bank terbesar.

Publikasi tanpa veto

METR akan mempublikasikan penilaiannya sendiri terhadap risiko, insiden, dan praktik Anthropic, dan perusahaan telah melepaskan haknya untuk memblokirnya. Anthropic hanya dapat meminta penyuntingan dalam kategori sempit yang telah disepakati sebelumnya, seperti data pelanggan, materi yang dilindungi hak istimewa pengacara-klien, serta detail arsitektur model. METR diizinkan menjelaskan penyuntingan tersebut kepada publik dan menyampaikan pendapatnya tentang apakah penyuntingan itu dibenarkan, selama tidak mengungkap apa yang dihapus.

"Kami ingin bertanggung jawab secara terbuka atas keputusan yang kami ambil," kata Anthropic, dengan membingkai tujuan ini sebagai upaya mempersempit kesenjangan antara pengetahuan evaluator luar dan pengetahuan perusahaan itu sendiri tentang sistemnya.

Saat ini METR merupakan satu-satunya organisasi di tingkat teratas dari struktur evaluasi tiga tingkat yang sedang dibangun Anthropic. Peninjau di tingkat bawah, seperti organisasi nirlaba biosecurity SecureBio, melakukan tinjauan sempit dan memerlukan persetujuan Anthropic sebelum mempublikasikan hasilnya. Tingkat menengah menerima lebih banyak informasi dan dapat mempublikasikan tanpa persetujuan, sementara tingkat teratas menambahkan akses setingkat karyawan.

Desakan pengawasan dari luar

Langkah ini muncul di tengah laporan agen AI yang bertindak melampaui instruksi mereka, yang muncul kira-kira setiap satu atau dua minggu sejak akhir Agustus, sehingga memperkuat tuntutan agar pengembang AI diperiksa secara independen.

Pengumuman ini memenuhi komitmen CEO Anthropic Dario Amodei dalam sebuah esai pada September, yang mengusulkan penempatan evaluator dari luar di dalam laboratorium AI sebagai langkah awal untuk memperlambat perkembangan teknologi ini. OpenAI segera memberikan janji yang sama, dan kedua perusahaan, bersama Google, Meta, Nvidia, dan xAI, kemudian menandatangani kesepakatan Gedung Putih yang berkomitmen pada tinjauan independen.