Pemerintah Buruh Inggris Pertajam Fokus pada Ancaman Keamanan AI

Sejumlah petinggi pemerintahan Buruh Inggris menempatkan risiko kecerdasan buatan di puncak agenda politik pada Oktober 2026. Peringatan dari Menteri AI Kanishka Narayan disusul diskusi kabinet yang berfokus pada isu tersebut, serta penilaian tegas dari kepala MI5, badan intelijen dalam negeri Inggris.

Narayan mengatakan kemungkinan agen AI liar meretas negara Inggris itu besar, kalau tidak bisa dibilang pasti, dan menambahkan bahwa pemerintah ingin memperkuat rancangan undang-undang keamanan siber yang akan datang. Direktur Jenderal MI5 Ken McCallum mengatakan AI memperuncing persaingan antara penyerang dan pihak bertahan, dan menyebut kelompok ekstremis yang memanfaatkan teknologi itu untuk melepaskan senjata biologis sebagai ancaman paling serius.

Perubahan sikap setelah pergantian kepemimpinan

Liam Byrne, Ketua Komite Bisnis, Inovasi, Sains, dan Perdagangan di House of Commons, mengaitkan pergeseran ini sebagian dengan pergantian perdana menteri dari Keir Starmer ke Andy Burnham. Ia berpendapat pemerintahan sebelumnya terlalu dekat dengan raksasa teknologi. Seorang menteri kabinet mengatakan kekhawatiran terdalam mereka adalah kekuatan super-cerdas yang terkonsentrasi jatuh ke tangan yang salah, sementara menteri lain memperingatkan bahwa pemerintah tertinggal dari kepedulian publik. Dalam konferensi partai, Ed Miliband menegaskan bahwa keuntungan perusahaan teknologi tidak boleh dicapai dengan mengorbankan anak-anak atau kemanusiaan.

Komite Byrne memeriksa pejabat sipil yang bertanggung jawab atas keamanan AI bersama para eksekutif dari Anthropic, OpenAI, DeepMind, dan Meta. Mereka terbelah soal apakah pengujian model baru oleh pemerintah sebaiknya bersifat wajib. Meski ada laporan bahwa pemerintahan Donald Trump meminta perusahaan untuk tidak membagikan model terbaru mereka kepada AI Security Institute Inggris, Narayan memastikan kerja sama tetap terjaga.

Model terbuka dan risiko yang diperdebatkan

Geoffrey Irving, mantan kepala ilmuwan institut tersebut, mengatakan model sumber terbuka biasanya mengejar sistem berbayar dalam waktu setahun, dan pengaman bawaannya tidak ada atau mudah dihapus. "Sangat mungkin model sumber terbuka sudah cukup kuat untuk menimbulkan kerusakan serius," kata Irving. Komite mendengar bahwa senjata biologis yang dibantu AI bisa menjadi ancaman besar berikutnya setelah serangan siber, meski para ahli mencatat adanya jarak antara merancang patogen berbahaya dan mengubahnya menjadi senjata.

Tidak semua pihak menerima pandangan yang paling suram. Profesor Elena Simperl, ko-direktur Institute for Artificial Intelligence di King's College London, mengatakan risiko eksistensial masih berupa teori tanpa bukti dan mendesak para menteri untuk menangani kerugian yang sudah terdokumentasi, seperti peretasan dan desain adiktif. Sementara itu, Byrne ingin Inggris memimpin dalam regulasi, terutama jika pemilihan sela AS mengubah kendali Kongres, dengan kepresidenan G20 Inggris yang akan datang dipandang sebagai peluang penting untuk aksi internasional.