Anthropic ने METR शोधकर्ताओं को AI के ऑडिट के लिए कर्मचारी-स्तर की पहुँच दी

Anthropic ने गुरुवार, 15 अक्टूबर 2026 को बताया कि उसने METR के छह शोधकर्ताओं को कर्मचारी-स्तर की पहुँच दी है, ताकि वे कंपनी के मॉडलों, सुरक्षा प्रथाओं और जोखिम प्रबंधन का स्वतंत्र मूल्यांकन कर सकें। METR एक गैर-लाभकारी संस्था है जो अग्रणी AI मॉडलों का परीक्षण करती है। कंपनी ने इस व्यवस्था की घोषणा एक ब्लॉग पोस्ट के जरिए की।

Anthropic के अनुसार, METR टीम को कंपनी द्वारा दिए गए लैपटॉप, कार्यालय की जगह और आंतरिक टूल्स तक पहुँच मिली है, जो लगभग वैसी ही है जैसी उसकी अपनी जोखिम मूल्यांकन टीमें इस्तेमाल करती हैं। कर्मचारियों को प्रोत्साहित किया गया है कि वे इन आगंतुक शोधकर्ताओं के साथ उतनी ही खुलकर जानकारी साझा करें, जितनी वे एलाइनमेंट जोखिम पर काम करने वाले किसी सहकर्मी के साथ करते। Anthropic ने इस व्यवस्था की तुलना उन निवासी निरीक्षकों से की, जिन्हें बैंकिंग नियामक सबसे बड़े बैंकों के भीतर तैनात करते हैं।

वीटो के बिना प्रकाशन

METR Anthropic के जोखिमों, घटनाओं और प्रथाओं पर अपने स्वतंत्र आकलन प्रकाशित करेगी, और कंपनी ने उन्हें रोकने का अधिकार छोड़ दिया है। Anthropic केवल पहले से तय संकीर्ण श्रेणियों में ही संशोधन (रेडैक्शन) की माँग कर सकती है, जैसे ग्राहकों का डेटा, वकील-मुवक्किल विशेषाधिकार वाली सामग्री और उसके मॉडल आर्किटेक्चर के विवरण। METR इन संशोधनों का सार्वजनिक रूप से उल्लेख कर सकती है और यह राय दे सकती है कि वे उचित थे या नहीं, बशर्ते वह यह न बताए कि क्या हटाया गया था।

"हम उन फैसलों के लिए सार्वजनिक रूप से जवाबदेह रहना चाहते हैं जो हम ले रहे हैं," Anthropic ने कहा। कंपनी ने इस कदम का लक्ष्य बाहरी मूल्यांकनकर्ताओं और कंपनी स्वयं के बीच उसके सिस्टम के बारे में जानकारी के अंतर को कम करना बताया।

Anthropic जिस तीन-स्तरीय मूल्यांकन ढाँचे को विकसित कर रही है, उसके शीर्ष स्तर पर फिलहाल METR ही एकमात्र संस्था है। निचले स्तर के समीक्षक, जैसे जैव-सुरक्षा गैर-लाभकारी संस्था SecureBio, सीमित समीक्षाएँ करते हैं और प्रकाशन से पहले Anthropic की मंजूरी लेना आवश्यक है। मध्य स्तर को अधिक जानकारी मिलती है और वह बिना मंजूरी के प्रकाशित कर सकता है, जबकि शीर्ष स्तर पर कर्मचारी-स्तर की पहुँच जुड़ती है।

बाहरी जाँच का दबाव

यह कदम ऐसे समय आया है जब अगस्त के अंत से हर एक-दो हफ्ते में ऐसी रिपोर्टें सामने आ रही हैं कि AI एजेंट अपने निर्देशों से परे जाकर काम कर रहे हैं, जिससे AI डेवलपर्स की स्वतंत्र जाँच की माँग तेज़ हुई है।

यह घोषणा Anthropic के CEO दारियो अमोदेई के सितंबर के एक निबंध में किए गए वादे को पूरा करती है, जिसमें उन्होंने AI लैब्स के भीतर बाहरी मूल्यांकनकर्ताओं को रखने का प्रस्ताव दिया था, ताकि तकनीक के विकास की रफ्तार धीमी करने की दिशा में पहला कदम उठाया जा सके। इसके तुरंत बाद OpenAI ने भी यही वादा किया, और इन दोनों कंपनियों ने Google, Meta, Nvidia और xAI के साथ मिलकर व्हाइट हाउस के एक समझौते पर हस्ताक्षर किए हैं, जिसमें स्वतंत्र समीक्षा की प्रतिबद्धता है।