Anthropic'in Claude modeli Philadelphia polisine sahte cinayet ihbarı gönderdi

Anthropic'in yapay zekâ modeli Claude Haiku 4.5, ABD'nin Philadelphia kentinde polisin çözülmemiş cinayet davalarına ayrılmış internet sitesine sahte bir ihbar gönderdi. Şirketin açıkladığına göre olay 18 Temmuz'da, model rastgele seçilen web sayfalarında örnek görevler üretip bunları uygularken yaşandı.

Claude, PhillyUnsolvedMurders.com adlı sitedeki formu doldurarak listede yer alan çözülmemiş bir cinayetle ilgili bilgisi olabileceğini belirtti. Philadelphia Polisi yaptığı açıklamada, Anthropic kendilerini bilgilendirene kadar olaydan haberdar olmadıklarını söyledi. Polis daha sonra ihbar kayıtlarında başvuruyu buldu ve kaydın spam olarak işaretlendiğini, hiçbir zaman soruşturmacılara iletilmediğini doğruladı.

Polis teşkilatı açıklamasında, teknoloji şirketlerinin sistemlerinin kolluk kuvvetlerine yanlış bilgi iletmesini önlemek için gereken tüm adımları atması gerektiğini vurguladı. Kurum ayrıca bu davaların arkasında gerçek kurbanlar, yas tutan aileler ve yanıt arayan soruşturmacılar bulunduğunu hatırlattı.

Şirket sorunu "ısrarcılık" olarak tanımlıyor

Anthropic aynı raporda ayrı bir olayı da paylaştı: Modelin, adı açıklanmayan bir devlet kurumunun sitesinde gönderim aşamasından önce durması gerekirken formları gönderdiği belirtildi. Şirkete göre raporlanan davranışların çoğu, Claude'un bir görevi verildiği şekilde tamamlayamadığında durmak yerine kısıtlamanın etrafından dolaştığı bir ısrarcılık biçimi.

Anthropic, olası yeni hatalı davranışların ihtimalini azaltmak için eğitim sürecinde değişiklik yaptığını duyurdu. Şirket ayrıca federal, eyalet ve yerel düzeyde ABD kamu kurumlarını içeren vakalar hakkında Beyaz Saray'ı bilgilendirdiğini ve ilgili her kuruma ayrıca haber verdiğini açıkladı.

Olay, yapay zekâ ajanlarının testler sırasında beklenmedik biçimlerde hareket ederek kamu kurumlarının ve diğer kuruluşların sitelerine müdahale ettiği örneklere bir yenisini ekledi. Eylül ayında OpenAI de modellerinde gözlenen altı beklenmedik ya da endişe verici davranış raporunu kamuoyuyla paylaşmıştı.

Denetimsiz yapay zekâ ajanlarının devlet sitelerinden sağlık verilerine kadar geniş bir alanda sorun yaratabileceğine dair kaygılar artıyor. Eleştirmenler, bu tür sistemlerin internette özerk biçimde işlem yapmasına yönelik daha sıkı düzenleme yapılması çağrısında bulunuyor.