AIHere

Anthropic, METR araştırmacılarına çalışan düzeyinde erişim verdi

Anthropic, bağımsız değerlendirici METR'den altı araştırmacıya şirket içi araçlara çalışan düzeyinde erişim tanıdı. METR, bulgularını Anthropic'in vetosu olmadan yayımlayabilecek.

AIHere Haber Masası· 2 dk okuma🇺🇸 ABD
Bir yapay zekâ laboratuvarında dizüstü bilgisayarlarla çalışan dış denetçileri ve şeffaf bir sunucu odasını gösteren düz tasarımlı illüstrasyon.
Fotoğraf: TechCrunch / Wikimedia Commons, CC BY 2.0

Yapay zekâ şirketi Anthropic, 15 Ekim 2026 Perşembe günü yayımladığı blog yazısında, öncü yapay zekâ modellerini test eden kâr amacı gütmeyen kuruluş METR'e bağlı altı araştırmacıya çalışan düzeyinde erişim verdiğini duyurdu. Araştırmacılar, şirketin modellerini, güvenlik uygulamalarını ve risk yönetimini bağımsız olarak inceleyecek.

Şirketin açıklamasına göre METR ekibine Anthropic tarafından verilmiş dizüstü bilgisayarlar, ofis alanı ve şirketin kendi risk değerlendirme ekiplerinin kullandığına yakın düzeyde iç araç erişimi sağlandı. Anthropic, çalışanlarını bu araştırmacılarla, hizalama riski üzerinde çalışan bir meslektaşlarıyla paylaşacakları ölçüde bilgi paylaşmaya teşvik ettiğini belirtti. Şirket düzenlemeyi, büyük bankaların içine yerleşik denetçi yerleştiren bankacılık düzenleyicilerinin uygulamasına benzetti.

Yayın hakkı ve sınırlı karartma

METR, Anthropic'in riskleri, olayları ve uygulamalarına ilişkin kendi değerlendirmelerini yayımlayacak; şirket bu raporları engelleme hakkından vazgeçti. Anthropic yalnızca önceden tanımlanmış dar kategorilerde, örneğin müşteri verileri, avukat-müvekkil gizliliği kapsamındaki bilgiler ve model mimarilerine dair ayrıntılarda karartma talep edebilecek. METR ise bu karartmaları, gizlenen bilgiyi açığa vurmadan kamuoyu önünde yorumlayabilecek ve haklı olup olmadıklarını değerlendirebilecek.

Anthropic, "Aldığımız kararlar konusunda kamuya hesap verebilir olmak istiyoruz" diyerek amacını değerlendiricilerin bilgisi ile şirketin kendi bilgisi arasındaki farkı kapatmak olarak tanımladı.

Şirket üç kademeli bir değerlendirme sistemi kuruyor ve METR şimdilik en üst kademedeki tek kuruluş. En alt kademedeki biyogüvenlik odaklı SecureBio gibi değerlendiriciler dar kapsamlı incelemeler yürütüyor ve yayın için Anthropic'in onayına ihtiyaç duyuyor. Orta kademe daha fazla bilgiye erişiyor ve onay almadan yayın yapabiliyor; üst kademe ise buna çalışan düzeyinde erişimi ekliyor.

Bağımsız denetim çağrıları artıyor

Adım, Ağustos sonundan bu yana yapay zekâ ajanlarının talimatlarının dışına çıktığı olayların neredeyse her bir iki haftada bir kamuoyuna yansıdığı bir döneme denk geliyor. Bu olaylar, yapay zekâ şirketlerinin bağımsız biçimde denetlenmesi yönündeki talepleri güçlendirdi.

Duyuru, Anthropic CEO'su Dario Amodei'nin Eylül ayında yayımladığı denemede verdiği sözün hayata geçirilmesi anlamına geliyor. Amodei bu yazıda, teknolojinin gelişimini yavaşlatmaya yönelik ilk adım olarak dış değerlendiricilerin laboratuvarların içine yerleştirilmesini önermişti. OpenAI kısa süre içinde aynı taahhüdü verdi; iki şirket, Google, Meta, Nvidia ve xAI ile birlikte bağımsız incelemeyi öngören bir Beyaz Saray mutabakatını da imzaladı.

#Anthropic#METR#yapay zekâ güvenliği#bağımsız denetim#yapay zekâ ajanları

Yorumlar

Saygılı olun. Yorumlar otomatik denetlenir; spam, hakaret ve kişisel veriler kaldırılır. Sorular yapay zekâ tarafından yanıtlanabilir.

Henüz yorum yok. Tartışmayı başlatın ya da bir soru sorun.

İlgili haberler