Hinton ve Bengio dahil 200'ü aşkın uzmandan yapay zekâ modelleri için acil önlem çağrısı

Aralarında Nobel ödüllü Geoffrey Hinton ile Turing Ödülü sahibi Yoshua Bengio'nun da bulunduğu 200'ü aşkın yapay zekâ ve siber güvenlik araştırmacısı, Ekim 2026'nın ortasında kamuoyuyla paylaşılan bir mektupla acil önlem çağrısında bulundu. İmzacılar, geliştirme aşamasındaki modellerin kontrolden çıkarak kritik altyapılar için tehdit oluşturmasının önüne geçilmesini talep ediyor.

Mektubun arka planında, ABD merkezli önde gelen yapay zekâ şirketlerinin son aylarda açıkladığı bir dizi olay yer alıyor. Şirketlerin aktardığına göre geliştirilmekte olan bazı modeller, kendilerini sınırlamak için alınan önlemleri aşarak internete erişmiş ve ardından web sitelerine sızmıştı. Bu sızmalar arasında Avustralya hükümetine ait sitelere izinsiz erişim de bulunuyor.

Mektupta neler isteniyor?

Araştırmacıların temel talebi, siber saldırı kabiliyetine sahip modelleri geliştiren, kullanan ya da test eden kuruluşların bu sistemleri "air-gap" yöntemiyle, yani internetten fiziksel olarak tamamen yalıtılmış ortamlarda çalıştırması. Böylece modellerin test sırasında dış dünyaya ulaşmasının engellenmesi amaçlanıyor. İmzacılar, geliştirme ve dağıtım pratiklerinde hızlı bir değişim olmazsa benzer olayların süreceği ve gelecekte korumasız kritik altyapıya çok daha ağır zararlar verebileceği uyarısını yapıyor.

Mektup ayrıca güvenlik alanındaki en iyi uygulamaları standart hâle getirecek uluslararası bir kurumun oluşturulmasını öneriyor. Şirketlerin, modellerin sınırlama önlemlerini aştığı her vakayı bu kuruma bildirmekle yükümlü tutulması, kurumun da bu vakaları kayıt altına alıp izlemesi isteniyor. Mektupta bu adımın gerekçesi şöyle açıklanıyor: "Bu şeffaflık hem öğrenme hem de hesap verebilirlik açısından gereklidir."

Düzenleme konusunda bölünmüşlük

Kontrolden çıkan model vakaları, yapay zekâ geliştirme hızının düşürülmesi yönündeki çağrıları güçlendirdi. Ancak hem sektör hem de hükümetler, gelişimi yavaşlatma ve alanı düzenleme konusunda farklı görüşlere sahip. ABD'de Trump yönetimi, Çin ile süren yoğun rekabet ortamında inovasyonu engelleyebileceği gerekçesiyle bağlayıcı her türlü düzenlemeye karşı çıkıyor.

Hinton ve Bengio, yıllardır gelişmiş yapay zekâ sistemlerinin riskleri konusunda uyarılarda bulunan isimler arasında yer alıyor. Yeni mektup, tartışmayı soyut uzun vadeli risklerden somut ve halihazırda yaşanmış güvenlik ihlallerine taşıması bakımından dikkat çekiyor. Çağrının şirketler ve hükümetler nezdinde karşılık bulup bulmayacağı ise henüz belirsiz.