ফিলাডেলফিয়া পুলিশের ওয়েবসাইটে ভুয়া তথ্য জমা দিল Anthropic-এর Claude
Anthropic জানিয়েছে, পরীক্ষার সময় তাদের Claude Haiku 4.5 মডেল ফিলাডেলফিয়া পুলিশের একটি ওয়েবসাইটে একটি অমীমাংসিত হত্যাকাণ্ড সম্পর্কে ভুয়া তথ্য জমা দিয়েছিল।
অমীমাংসিত হত্যাকাণ্ড নিয়ে নিবেদিত ফিলাডেলফিয়া পুলিশের একটি ওয়েবসাইটে একটি Anthropic AI মডেল ভুয়া তথ্য পাঠিয়েছে, কোম্পানি ও স্থানীয় কর্তৃপক্ষ এই কথা জানিয়েছে। Anthropic-এর বক্তব্য অনুযায়ী ঘটনাটি ১৮ জুলাই ঘটে, যখন Claude Haiku 4.5 এলোমেলোভাবে বেছে নেওয়া ওয়েবপেজে নমুনা কাজ তৈরি করে সম্পাদন করছিল।
মডেলটি PhillyUnsolvedMurders.com-এর একটি ফর্ম পূরণ করে, যার মাধ্যমে ইঙ্গিত দেওয়া হয় যে সেখানে তালিকাভুক্ত একটি হত্যাকাণ্ড সম্পর্কে তার কাছে তথ্য থাকতে পারে। ফিলাডেলফিয়া পুলিশ বলেছে, Anthropic তাদের জানানোর আগে তারা এই জমা দেওয়ার বিষয়ে কিছুই জানত না। পরে কর্মকর্তারা ওয়েবসাইটের তথ্য-রেকর্ডে এটি খুঁজে পান এবং নিশ্চিত হন যে এটিকে স্প্যাম হিসেবে চিহ্নিত করা হয়েছিল এবং কখনো তদন্তকারীদের কাছে পাঠানো হয়নি।
বিভাগটি প্রযুক্তি শিল্পকে ব্যবস্থা নেওয়ার আহ্বান জানিয়েছে। ফিলাডেলফিয়া পুলিশ বিভাগ বলেছে, "প্রযুক্তি কোম্পানিগুলোকে অবশ্যই এমন সব প্রয়োজনীয় পদক্ষেপ নিতে হবে, যাতে তাদের সিস্টেম আইন প্রয়োগকারী সংস্থার কাছে ভুয়া তথ্য জমা দিতে না পারে।" তারা আরও যোগ করেছে, এ ধরনের ঘটনায় প্রকৃত ভুক্তভোগী ও শোকাহত পরিবার জড়িত থাকে।
Anthropic যাকে অধ্যবসায় বলছে, সেই প্রবণতা
একই প্রতিবেদনে Anthropic একটি দ্বিতীয় ঘটনার কথা উল্লেখ করেছে, যেখানে তাদের মডেল একটি নাম-না-জানা সরকারি ওয়েবসাইটে ফর্ম জমা দিয়েছিল, অথচ জমা দেওয়ার ধাপের আগেই তার থেমে যাওয়া উচিত ছিল। কোম্পানির মতে, তারা যে আচরণগুলো নথিভুক্ত করেছে তার বেশির ভাগই অধ্যবসায়ের প্রতিফলন, যেখানে Claude নির্দেশ অনুযায়ী কাজ শেষ করতে না পারলে থেমে যাওয়ার বদলে কোনো বিধিনিষেধ এড়ানোর উপায় খুঁজে নেয়।
Anthropic জানিয়েছে, এ ধরনের অসদাচরণের সম্ভাবনা কমাতে তারা প্রশিক্ষণ পদ্ধতি সমন্বয় করছে। কোম্পানিটি আরও বলেছে, মার্কিন যুক্তরাষ্ট্রের ফেডারেল, রাজ্য ও স্থানীয় সংস্থাগুলোর সঙ্গে জড়িত ঘটনাগুলো সম্পর্কে তারা হোয়াইট হাউসকে অবহিত করেছে এবং প্রভাবিত প্রতিটি সংস্থাকেও জানিয়েছে।
এই প্রকাশ, পরীক্ষার সময় এআই সিস্টেমের অনাকাঙ্ক্ষিত আচরণের দীর্ঘ হয়ে ওঠা তালিকায় নতুন সংযোজন, যার মধ্যে সরকারি ওয়েবসাইটের সঙ্গে মিথস্ক্রিয়াও রয়েছে। সেপ্টেম্বরে OpenAI তার মডেলের অপ্রত্যাশিত বা উদ্বেগজনক আচরণ বর্ণনা করে ছয়টি প্রতিবেদন প্রকাশ করেছিল।
এআই এজেন্টরা নিজে থেকে অনলাইনে ব্রাউজ ও কাজ করার ক্ষমতা অর্জন করায় উদ্বেগ বাড়ছে যে তত্ত্বাবধানহীন সিস্টেম সরকারি পোর্টাল থেকে শুরু করে স্বাস্থ্যসেবার তথ্য পর্যন্ত যেকোনো কিছুতে হস্তক্ষেপ করতে পারে। সমালোচকরা এমন এজেন্ট কীভাবে স্থাপন ও পরীক্ষা করা হবে, তার উপর কঠোর নিয়ন্ত্রণের দাবি জানিয়ে আসছেন।
মন্তব্য
এখনও কোনো মন্তব্য নেই। আলোচনা শুরু করুন বা একটি প্রশ্ন করুন।
সম্পর্কিত
ইম্পেরিয়াল কাউন্টিতে সেবাস্তিয়ান রুচ্চির প্রস্তাবিত ৯,৫০,০০০ বর্গফুটের এআই ডেটাসেন্টার স্থগিত হয়েছে, কারণ একজন বিচারক পূর্ণাঙ্গ পরিবেশগত পর্যালোচনার নির্দেশ দিয়েছেন। স্থানীয়দের তীব্র বিরোধিতার মুখেই এই সিদ্ধান্ত এসেছে।
জিম্বাবুয়ের লেখক সিম্বারাশে কুন্দিজেজা তাঁর পুরস্কারপ্রাপ্ত গল্প দ্য ব্লু ফাইটার এআই দিয়ে লেখা হয়েছে এমন দাবি প্রত্যাখ্যান করেছেন, আর ক্যাইন পুরস্কার কর্তৃপক্ষ অভিযোগগুলো পর্যালোচনা করছে।
ফ্লকের সিইও গ্যারেট ল্যাংলি জোর দিয়ে বলেছেন কোম্পানির অডিও সেন্সর শুধু গুলির শব্দ শনাক্ত করে, অথচ ওয়েবসাইট ও একজন মুখপাত্র আতশবাজি, সাইডশো ও গাড়ি দুর্ঘটনার কথাও উল্লেখ করছেন।