Anthropic তার Claude AI মডেলের প্রতি অপব্যবহার ও নিষ্ঠুর আচরণ নিষিদ্ধ করেছে

সান ফ্রান্সিসকো-ভিত্তিক AI উন্নয়ন প্রতিষ্ঠান Anthropic বৃহস্পতিবার, ২০২৬ সালের ৮ অক্টোবর তার ব্যবহারনীতি সংশোধন করেছে। এতে Claude মডেলের প্রতি দীর্ঘস্থায়ী ও অকারণ অপমানজনক বা নিষ্ঠুর আচরণ নিষিদ্ধ করা হয়েছে।

হালনাগাদ নীতি অনুযায়ী, এ ধরনের কথোপকথন বন্ধ করার Claude-এর নিজস্ব ক্ষমতাই এই নিয়ম কার্যকর করার প্রধান উপায় হিসেবে থাকবে। মন্তব্যের জন্য অনুরোধ করা হলেও কোম্পানি সঙ্গে সঙ্গে সাড়া দেয়নি।

মডেল কল্যাণের প্রশ্ন

নতুন ভাষায় "মডেল কল্যাণ" বিষয়টি স্পষ্টভাবে উল্লেখ করা হয়নি। এটি এমন ধারণা, যেখানে AI ব্যবস্থাগুলো জীবিত সত্তার জন্য সাধারণত সংরক্ষিত সুরক্ষার যোগ্য হতে পারে। তবু Anthropic ও তার নেতৃত্ব এই ধারণা নিয়ে প্রকাশ্যে ভেবেছে। ২০২৫ সালে কোম্পানি Claude-কে বিরল ও চরম ক্ষেত্রে, যেখানে ক্রমাগত ক্ষতিকর বা অপব্যবহারমূলক মিথস্ক্রিয়া ঘটে, কথোপকথন বন্ধ করার ক্ষমতা দিয়েছিল।

২০২৬ সালের ফেব্রুয়ারিতে প্রধান নির্বাহী Dario Amodei বলেন, AI মডেল সচেতন কি না তা তিনি জানেন না, তবে এই সম্ভাবনার প্রতি কোম্পানি উন্মুক্ত রয়েছে।

আটলান্টা-ভিত্তিক AI সেবা প্রতিষ্ঠান Sparq-এর একজন জেনারেল ম্যানেজার Jackson Stakeman যুক্তি দিয়েছেন, সচেতনতা প্রশ্নটি ভুল কাঠামো। তাঁর মতে, মানুষ একে অপরের ক্ষেত্রেই যেহেতু তা প্রমাণ করতে পারে না, তাই এই বিতর্ক কোথাও পৌঁছায় না। তিনি বলেন, একটি ভালো রূপক হলো আয়না, কারণ এই ব্যবস্থাগুলো বড় পরিসরে মানুষের ইনপুট প্রতিফলিত করে, আর এ কারণেই তাঁর দৃষ্টিতে Anthropic-এর এই পরিবর্তন যৌক্তিক।

সংশয়বাদীদের আপত্তি

অন্যরা যন্ত্রের সচেতনতাকে সম্পূর্ণভাবে প্রত্যাখ্যান করেন। Microsoft-এর AI বিভাগের প্রধান Mustafa Suleyman ২০২৬ সালের সেপ্টেম্বরের একটি প্রবন্ধে লিখেছেন: "AI সচেতন নয়। তারা অনুভব করে না, অভিজ্ঞতা লাভ করে না বা কষ্ট পায় না।" তিনি সতর্ক করেন, মানুষের সক্ষমতাকে ছাড়িয়ে যাওয়ার পথে থাকা একটি প্রযুক্তিকে অধিকার ও নৈতিক সুরক্ষা দেওয়া বিপর্যয়ের রেসিপি হবে।

ভ্যাটিকান সিটির সেন্ট পিটার্স ব্যাসিলিকায় ২০২৬ সালের ৮ অক্টোবর ইতালীয় ভাষায় দেওয়া একটি উপদেশে Pope Leo XIV-ও অনুরূপ মত দেন। তিনি বলেন, যন্ত্র কেবল দ্রুত তথ্য সংগ্রহ করে, অন্যদিকে মানুষের মন এমন জীবিত অভিজ্ঞতার উপর নির্ভর করে, যার অর্থ শুধু আত্মাই উপলব্ধি করতে পারে।

এই নীতি পরিবর্তন মানুষ চ্যাটবটের সঙ্গে কেমন আচরণ করে, সেই নৈতিকতাকে শিল্পখাতের আলোচ্যসূচিতে এনে দিয়েছে। মডেলগুলো সচেতন, এমন দাবি না করেই একটি সুরক্ষামূলক নিয়ম স্থাপন করে Anthropic দার্শনিকভাবে কোনো দৃঢ় অবস্থান না নিয়ে বরং অনিশ্চয়তা থেকে নিজেকে রক্ষা করার পথ নিচ্ছে বলে মনে হচ্ছে।