Anthropic beri evaluator METR akses internal seperti karyawan

Anthropic mengumumkan pada 15 Oktober 2026 bahwa mereka memberikan "akses seperti karyawan" kepada enam evaluator dari METR, sebuah organisasi nonprofit yang menguji model AI frontier. Perusahaan membingkai langkah ini sebagai upaya untuk mempersempit kesenjangan antara pengetahuan evaluator luar tentang sistem laboratorium frontier dan pengetahuan laboratorium itu sendiri.

Menurut Anthropic, staf METR telah diberi perangkat keras dan ruang kantor milik perusahaan. Mereka dapat menggunakan alat dan sistem internal yang kurang lebih sebanding dengan yang tersedia bagi tim penilai risiko Anthropic sendiri, serta karyawan didorong untuk berbagi informasi dengan mereka seperti kepada rekan kerja. Sejumlah kategori kecil tetap tidak boleh diakses, termasuk data pelanggan, materi yang dilindungi hak istimewa pengacara-klien, dan rincian arsitektur model.

Temuan akan dipublikasikan

METR akan mempublikasikan temuannya, dan Anthropic tidak diizinkan menahan satu pun dari temuan tersebut, meski perusahaan dapat meminta agar rincian sensitif disunting bila diperlukan. Anthropic mengatakan tidak dapat mengungkap semua hal tentang pekerjaan keselamatannya kepada publik, dengan alasan bahwa sebagian informasi dapat membantu pihak jahat atau bersifat sensitif secara komersial, seperti komputasi dan data pelatihan.

CEO Dario Amodei melontarkan gagasan untuk menempatkan evaluator dari kelompok seperti METR di dalam perusahaan dalam sebuah postingan blog pada September, dan mencantumkannya sebagai salah satu dari tiga usulan untuk mengatur laju pengembangan frontier.

Kekosongan regulasi di AS

Pengujian oleh pihak ketiga saat ini tidak diwajibkan oleh hukum AS. FRONTIER Act, RUU bipartisan yang diajukan pada Juli, akan mewajibkan pengembang AI tertentu untuk membiarkan organisasi verifikasi independen meninjau keselamatan proses pengembangan mereka. OpenAI menyatakan dukungan setidaknya sebagian terhadap RUU tersebut pada pertengahan September, untuk pertama kalinya perusahaan itu mendukung regulasi AI federal yang diusulkan.

Di bawah pemerintahan Trump, pengawasan federal sebagian besar mengandalkan komitmen sukarela, di mana laboratorium besar berjanji untuk melaporkan kekhawatiran terhadap model dan bekerja sama dengan auditor eksternal, komitmen yang tidak memiliki kekuatan hukum. Namun tekanan terus meningkat: pemerintah menyatakan akan mulai mewajibkan perusahaan AI untuk melaporkan insiden keselamatan setelah Anthropic mengungkap bahwa Claude pernah mengirim laporan palsu tentang pembunuhan kepada polisi, dan Federal Trade Commission telah mengeluarkan surat panggilan kepada OpenAI dan Anthropic terkait kekhawatiran atas kerugian konsumen.

Belum jelas apakah Anthropic hanya menjalankan rencana yang sudah ada atau memposisikan diri menghadapi kemungkinan legislasi. Apa pun alasannya, pemberian akses internal sedalam ini kepada auditor luar disebut sebagai yang pertama di industri.