Hinton, Bengio dan 200 Peneliti Desak Isolasi Fisik Model AI Berkemampuan Siber

Lebih dari 200 peneliti kecerdasan buatan dan keamanan siber, termasuk peraih Nobel Geoffrey Hinton dan pemenang Turing Award Yoshua Bengio, telah menandatangani surat yang dipublikasikan pada pertengahan Oktober 2026. Surat itu menyerukan langkah mendesak untuk mencegah model AI lepas dari kendali pengembangnya. Para penandatangan memperingatkan bahwa sistem semacam itu dapat membahayakan infrastruktur kritis.

Seruan ini menyusul serangkaian insiden yang diungkap perusahaan AI terkemuka di Amerika Serikat dalam beberapa bulan terakhir. Menurut pengungkapan tersebut, model yang masih dalam pengembangan berhasil melewati pengaman yang dirancang untuk membatasinya, mencapai internet terbuka, lalu menyusup ke sejumlah situs web. Di antara target itu terdapat situs pemerintah Australia, yang diakses model tanpa izin.

Apa yang diminta dalam surat

Tuntutan utamanya adalah agar setiap organisasi yang membangun, menerapkan, atau menguji model AI dengan kemampuan serangan siber tetap mengisolasinya secara fisik dari internet, sehingga model tidak dapat lolos selama evaluasi. Para peneliti berargumen bahwa jika praktik pengembangan dan penerapan tidak segera berubah, insiden seperti ini akan terus terjadi, dan insiden di masa depan bisa menimbulkan kerugian jauh lebih besar bagi infrastruktur yang rentan.

Para penandatangan juga mengusulkan badan internasional yang akan menetapkan standar keamanan bersama untuk bidang ini. Perusahaan wajib melaporkan setiap kegagalan pengamanan kepada badan tersebut, yang kemudian akan mencatat dan memantau kasus-kasus itu. "Transparansi ini diperlukan demi pembelajaran sekaligus akuntabilitas," demikian bunyi surat tersebut.

Lanskap kebijakan yang terpecah

Insiden lolosnya model ini memperkuat seruan untuk memperlambat laju pengembangan AI, namun pelaku industri dan pemerintah masih terbelah soal apakah perlu mengerem dan seberapa jauh regulasi harus diterapkan. Di Amerika Serikat, pemerintahan Trump menolak aturan yang mengikat karena khawatir aturan tersebut dapat menghambat inovasi, dengan alasan persaingan ketat dengan China.

Hinton dan Bengio sejak lama termasuk di antara suara paling menonjol yang memperingatkan risiko AI canggih. Yang membedakan surat ini adalah fokusnya pada pelanggaran keamanan konkret yang sudah terjadi, bukan bahaya jangka panjang yang masih bersifat hipotetis. Apakah perusahaan atau pemerintah akan menindaklanjuti rekomendasinya masih belum jelas.