Draf RUU Anthropic usulkan pengadilan bisa menghentikan model AI yang berpotensi menimbulkan bencana besar

Anthropic telah menyusun RUU AI federal untuk Kongres AS yang memungkinkan seorang hakim menangguhkan model frontier hanya jika ada risiko bencana yang segera terjadi, menurut Politico, yang mengutip salinan draf rahasia tersebut dan tiga sumber anonim. Teks ini belum diajukan dan perusahaan belum mempublikasikannya. Salinan yang disebut sebagai draf tersebut telah beredar daring sejak 17 Oktober 2026 setidaknya, meski Anthropic belum memverifikasi keasliannya.

Juru bicara Anthropic membenarkan bahwa usulan ini dibangun di atas Advanced AI Framework yang dirilis perusahaan pada Juni dan sejak itu dipromosikan kepada anggota parlemen federal maupun negara bagian. Ia menyebutnya sebagai "langkah yang masuk akal yang menurut kami harus ditindaklanjuti Kongres."

Cara kerja pemblokiran

Berdasarkan draf tersebut, evaluator independen yang terdaftar di Departemen Perdagangan akan secara berkala meninjau laboratorium dan model frontier mereka. Laboratorium dapat membayar evaluator tersebut, asalkan pembayaran tidak bergantung pada hasil evaluasi. Jika evaluator menemukan risiko segera dari daftar yang ditentukan, mereka akan memiliki waktu 72 jam untuk memberi tahu Departemen Perdagangan, yang kemudian dapat meminta hakim federal di Washington untuk menangguhkan model tersebut. Risiko pemicunya adalah pembuatan atau penyebaran senjata biologis, serangan siber, dan model yang lepas dari kendali pengembangnya.

Menurut pembacaan atas teks bocoran yang diunggah di LessWrong, beban pembuktian berada pada Menteri Perdagangan, pemblokiran harus merupakan solusi yang paling tidak membatasi, dan perintah berakhir setelah 45 hari. Tidak ada lembaga federal lain yang dapat menghentikan model berdasarkan undang-undang ini. Laboratorium juga perlu memiliki kerangka keselamatan, laporan transparansi yang dipublikasikan, perlindungan bagi pelapor pelanggaran, dan pelaporan insiden kritis.

Ambang 50 orang ini mengikuti SB 53 California, yang ditandatangani pada 29 September 2025, dan FRONTIER Act lintas partai yang diajukan di DPR pada 23 Juli 2026 oleh Lori Trahan dan Jay Obernolte. Berbeda dengan RUU tersebut, yang memungkinkan menteri menangguhkan model berdasarkan temuan tertulis sebelum ada sidang apa pun, versi Anthropic menempatkan hakim di garis depan dan hanya mendaftarkan evaluator, bukan memberi mereka lisensi.

Klausul pre-emption menuai kritik paling tajam

Ketentuan yang paling diperdebatkan akan mengesampingkan sebagian aturan negara bagian tentang pengungkapan risiko, evaluasi pihak ketiga, dan pelaporan insiden, bidang yang diatur oleh SB 53 dan RAISE Act New York, yang keduanya didukung Anthropic. Anggota Majelis New York Alex Bores, yang menulis RAISE Act, menilai draf ini lebih lemah daripada kerangka Anthropic sendiri dan, dalam hal-hal seperti penggunaan model internal dan tenggat pelaporan, lebih lemah daripada hukum negara bagian yang sudah ada.

Charlie Bullock dari Institute for Law & AI menilainya cukup masuk akal tetapi lebih lemah dibandingkan FRONTIER Act dalam hal penyusunan aturan dan kewenangan penghentian darurat, dan memperingatkan bahwa auditor tanpa lisensi bisa bersaing dengan cara melonggarkan standar. Nathan Calvin dari Encode berpendapat bahwa meminta hakim menimbang kerugian bagi pengembang akan membuat pemblokiran lebih sulit didapat, sementara analis LessWrong berpendapat bahwa jalur hukum yang eksplisit justru membuat penghentian federal lebih mungkin terjadi dibandingkan hukum yang berlaku saat ini.