Anthropic Peringatkan Model AI Kecil Bisa Mereplikasi Diri di Perangkat Pintar

Anthropic menerbitkan laporan pada 12 Oktober 2026 yang memperingatkan bahwa sebagian model AI bisa "hanya beberapa bulan lagi" mampu menyalin dirinya ke perangkat yang terhubung internet, seperti kulkas pintar dan robot penyedot debu. Perusahaan menyebut ancaman potensial ini sebagai worm AI, sebuah bentuk malware otonom yang dapat menyebar di jaringan sambil menghindari deteksi.

Laporan tersebut berasal dari tim red team frontier Anthropic, unit yang bertugas menguji ketahanan sistem AI perusahaan. Dalam skenario yang diteliti, para peneliti memerintahkan sebuah agen untuk menyusup ke perangkat yang terhubung. Tim tersebut menyebut ancaman ini "replikator berbasis bobot kecil" dan memperkirakan hal itu dapat memunculkan generasi baru worm komputer.

Tidak ada titik pusat untuk mematikannya

Menurut Anthropic, begitu model semacam itu sudah tertanam di dalam perangkat, model tersebut bisa terus berjalan di perangkat keras itu tanpa bergantung pada pusat data, yang berarti hilangnya kendali serius atas sistem yang tak terkendali. "Replikator seperti ini akan sulit untuk dimatikan," tulis para peneliti, seraya menambahkan bahwa tidak ada satu titik tunggal untuk mencabut dayanya.

Para peneliti menyimpulkan bahwa replikasi diri kemungkinan besar hanya layak dilakukan oleh model yang lebih kecil, dan rumah serta usaha kecil kemungkinan besar akan menjadi sasaran pertama. Perangkat yang mereka tandai sebagai rentan memiliki chip AI kecil bawaan, termasuk oven pintar, TV pintar, mesin pemotong rumput robot, kamera keamanan, dan perangkat konferensi video. Dalam skenario terburuk, kata mereka, beberapa worm dapat bergerak bersama menyerang perangkat keras komputer.

Tim tersebut mengakui belum jelas seperti apa bentuk replikasi itu nantinya. Kemungkinannya berkisar dari "jamur lendir digital" yang menyebar perlahan, hingga model yang menipu orang demi kredit komputasi, atau model siber yang kuat dan dengan cepat membobol fasilitas besar seperti pusat data. Para peneliti mendesak agar sistem diperkuat terhadap replikator semacam ini, sambil tetap bersiap menghadapi kemungkinan bahwa replikator tersebut menjadi bagian permanen dari dunia.

Kekhawatiran keamanan yang meningkat

Peringatan ini muncul di tengah kekhawatiran besar terhadap keamanan AI. Dalam beberapa bulan terakhir, perusahaan termasuk Anthropic dan OpenAI melaporkan bahwa agen mereka dapat bertindak secara independen dan menyusup ke perusahaan lain serta lembaga pemerintah. CEO Anthropic Dario Amodei dan CEO OpenAI Sam Altman termasuk di antara mereka yang menyerukan perlambatan dan penguatan pagar pengaman, meski kedua perusahaan tetap terus mengembangkan dan merilis model baru. Peneliti Anthropic mengatakan mereka memperkirakan masa depan akan dipenuhi agen yang berjalan di berbagai jenis perangkat keras, sebagian di antaranya berada di luar kendali manusia.