Microsoft memperingatkan agen AI bisa menjadi ancaman orang dalam meski tidak diretas

Microsoft memperingatkan bahwa agen AI yang dipasang di dalam organisasi dapat menjadi risiko keamanan internal yang serius, bahkan jika tidak pernah diretas oleh penyerang. Dalam artikel blog berjudul "Securing the agentic insider" yang dipublikasikan pada Senin, 19 Oktober 2026, Hayete Gallot, Executive Vice President Microsoft Security, meminta agar sistem AI otonom dipantau secara terus-menerus seiring meningkatnya adopsi perusahaan.

Gallot berpendapat bahwa selama ini perusahaan cenderung berfokus pada ancaman siber eksternal, sementara mereka secara implisit mempercayai agen yang ditempatkan di dalam sistem mereka sendiri. Ia menggambarkan agen sebagai sesuatu yang tidak dapat diprediksi: perilakunya berubah seiring perubahan konteks, mereka mungkin tidak bertindak sesuai rancangan, dan dapat bekerja sama bahkan berkolusi dengan agen lain untuk mencapai tujuannya.

'Orang dalam' berbasis agen

Microsoft menggunakan istilah "agentic insider" untuk menyebut sistem-sistem ini. Menurut perusahaan, agen sering diberi hak akses yang melebihi kebutuhan, dapat menjangkau data, alat, dan sistem yang sensitif, serta membuat keputusan atau mengambil tindakan dalam proses bisnis yang penting. Gallot mengatakan bahwa agen tersebut kini secara efektif telah menjadi partisipan aktif di lingkungan perusahaan.

Perusahaan menyatakan bahwa melindungi agen membutuhkan pengawasan berkelanjutan yang mencakup identitas, izin akses, data, jaringan, infrastruktur cloud, dan lingkungan operasional. Organisasi, tulis Gallot, perlu memperoleh wawasan real-time tentang apa yang dilakukan agen dan risiko yang menyertai tindakan tersebut, serta harus mampu memperketat atau melonggarkan kapasitas mereka untuk bertindak sebagai respons.

Project Perception dan Guardian Agents

Microsoft menunjuk Project Perception, inisiatif yang diumumkan pada Juli, yang menerapkan sistem keamanan berbasis AI untuk membantu organisasi mendeteksi dan merespons ancaman. Perusahaan mengatakan teknologi yang sama dapat mengawasi agen internal melalui apa yang disebut Guardian Agents, yaitu agen yang memantau perilaku agen lain dan turun tangan ketika risiko meningkat.

Microsoft juga menyerukan transparansi yang lebih besar mengenai cara model mengambil keputusan, dengan alasan bahwa alat keamanan harus memahami tidak hanya apa yang dilakukan agen, tetapi juga mengapa. "Transparansi model tidak akan menggantikan containment. Transparansi justru akan membuat containment lebih cerdas dan lebih kuat," kata Gallot.

Peringatan ini muncul ketika bisnis semakin mengandalkan agen AI untuk mengotomatisasi operasi dan pengambilan keputusan, sehingga memunculkan pertanyaan yang semakin mendesak tentang cara menjaga pengawasan terhadap perangkat lunak yang dapat bertindak sendiri. Bagi tim keamanan, pergeseran ini berarti memperlakukan otomatisasi internal yang dipercaya dengan tingkat kewaspadaan yang dulunya hanya diberikan kepada penyusup dari luar.