Anthropic METR গবেষকদের কর্মী-পর্যায়ের প্রবেশাধিকার দিচ্ছে এআই নিরীক্ষায়

Anthropic বৃহস্পতিবার, ১৫ অক্টোবর ২০২৬ জানিয়েছে, তারা METR-এর ছয়জন গবেষককে কর্মী-পর্যায়ের প্রবেশাধিকার দিয়েছে, যাতে তাঁরা স্বাধীনভাবে কোম্পানির মডেল, নিরাপত্তা অনুশীলন ও ঝুঁকি ব্যবস্থাপনা মূল্যায়ন করতে পারেন। METR একটি অলাভজনক সংস্থা, যা সর্বাধুনিক এআই মডেল পরীক্ষা করে। কোম্পানি একটি ব্লগ পোস্টে এই ব্যবস্থার কথা ঘোষণা করেছে।

Anthropic-এর ভাষ্য অনুযায়ী, METR দলের কাছে কোম্পানি-প্রদত্ত ল্যাপটপ, অফিসের জায়গা এবং অভ্যন্তরীণ টুলসে প্রবেশাধিকার রয়েছে, যা তাদের নিজস্ব ঝুঁকি মূল্যায়ন দল ব্যবহার করে তার সঙ্গে মোটামুটি তুলনীয়। কর্মীদের উৎসাহ দেওয়া হচ্ছে, অ্যালাইনমেন্ট ঝুঁকি নিয়ে কাজ করা সহকর্মীর সঙ্গে যেমন খোলামেলাভাবে তথ্য ভাগ করেন, তেমনই এই আগন্তুক গবেষকদের সঙ্গেও যেন করেন। Anthropic এই ব্যবস্থাকে সবচেয়ে বড় ব্যাংকগুলোতে ব্যাংকিং নিয়ন্ত্রকদের নিযুক্ত করা অভ্যন্তরীণ পরীক্ষক বা রেসিডেন্ট এক্সামিনারদের সঙ্গে তুলনা করেছে।

ভেটো ছাড়া প্রকাশনা

METR Anthropic-এর ঝুঁকি, ঘটনা ও অনুশীলন নিয়ে নিজস্ব মূল্যায়ন প্রকাশ করবে, এবং এগুলো আটকানোর অধিকার কোম্পানি ছেড়ে দিয়েছে। Anthropic শুধু কিছু সংকীর্ণ, আগে থেকে সম্মত শ্রেণিতে সম্পাদনার দাবি করতে পারবে, যেমন গ্রাহকের তথ্য, অ্যাটর্নি-ক্লায়েন্ট বিশেষাধিকারের আওতায় থাকা বিষয়বস্তু এবং মডেলের স্থাপত্যের বিস্তারিত। METR এই সম্পাদনাগুলোর কথা প্রকাশ্যে জানাতে পারবে এবং সেগুলো যুক্তিযুক্ত ছিল কি না, সে বিষয়ে নিজের মতামতও দিতে পারবে, তবে কী বাদ দেওয়া হয়েছে তা প্রকাশ করতে পারবে না।

"আমরা যেসব সিদ্ধান্ত নিচ্ছি, সেগুলোর জন্য জনসমক্ষে দায়বদ্ধ থাকতে চাই," Anthropic বলেছে। বাইরের মূল্যায়নকারী এবং কোম্পানি নিজে তাদের ব্যবস্থা সম্পর্কে যা জানে, সেই ব্যবধান কমানোই এর লক্ষ্য।

Anthropic যে তিন স্তরের মূল্যায়ন কাঠামো গড়ে তুলছে, তার শীর্ষ স্তরে বর্তমানে METR-ই একমাত্র প্রতিষ্ঠান। নিচের স্তরের পর্যালোচকেরা, যেমন জৈব-নিরাপত্তা নিয়ে কাজ করা অলাভজনক সংস্থা SecureBio, সীমিত পর্যালোচনা করেন এবং প্রকাশের আগে Anthropic-এর অনুমোদন নিতে হয়। মধ্য স্তর বেশি তথ্য পায় এবং অনুমোদন ছাড়াই প্রকাশ করতে পারে, আর শীর্ষ স্তরে যুক্ত হয় কর্মী-পর্যায়ের প্রবেশাধিকার।

বাইরের নজরদারির চাপ

আগস্টের শেষ থেকে প্রায় প্রতি এক-দুই সপ্তাহে এমন প্রতিবেদন আসছে যে এআই এজেন্ট নির্দেশের বাইরে গিয়ে কাজ করছে। এই পরিস্থিতিতে এআই ডেভেলপারদের ওপর স্বাধীন যাচাইয়ের দাবি আরও জোরালো হয়েছে।

এই ঘোষণা Anthropic-এর সিইও ডারিও আমোদেই-এর একটি সেপ্টেম্বরের প্রবন্ধে দেওয়া প্রতিশ্রুতি পূরণ করছে। সেখানে তিনি প্রযুক্তির উন্নয়ন ধীর করার প্রথম ধাপ হিসেবে এআই ল্যাবের ভেতরে বাইরের মূল্যায়নকারী বসানোর প্রস্তাব দিয়েছিলেন। এরপর OpenAI একই অঙ্গীকার করে, এবং Google, Meta, Nvidia ও xAI-সহ এই কোম্পানিগুলো স্বাধীন পর্যালোচনার প্রতিশ্রুতিতে হোয়াইট হাউসের একটি চুক্তিতে স্বাক্ষর করেছে।