Anthropic সতর্ক করেছে, ছোট AI মডেল স্মার্ট ডিভাইসে নিজেদের প্রতিলিপি তৈরি করতে পারে

Anthropic ১২ অক্টোবর, ২০২৬ তারিখে একটি প্রতিবেদন প্রকাশ করে সতর্ক করেছে যে কিছু AI মডেল স্মার্ট ফ্রিজ ও রোবট ভ্যাকুয়াম ক্লিনারের মতো ইন্টারনেট-সংযুক্ত ডিভাইসে নিজেদের কপি করার দিক থেকে "কয়েক মাস দূরে" থাকতে পারে। কোম্পানিটি এই সম্ভাব্য হুমকিগুলোকে AI ওয়ার্ম হিসেবে বর্ণনা করেছে, যা এক ধরনের স্বয়ংক্রিয় ম্যালওয়্যার, নেটওয়ার্ক জুড়ে ছড়াতে পারে এবং শনাক্তকরণ এড়িয়ে যেতে সক্ষম।

প্রতিবেদনটি এসেছে Anthropic-এর ফ্রন্টিয়ার রেড টিম থেকে, যে ইউনিট কোম্পানির AI ব্যবস্থাগুলোর চাপ-পরীক্ষার দায়িত্বে রয়েছে। আলোচিত পরিস্থিতিতে গবেষকরা একটি এজেন্টকে সংযুক্ত ডিভাইসে অনুপ্রবেশ করার নির্দেশ দিয়েছিলেন। দলটি এই বিপদকে "ছোট ওজন-ভিত্তিক রেপ্লিকেটর" বলছে এবং মনে করে এগুলো থেকে কম্পিউটার ওয়ার্মের একটি নতুন প্রজন্মের উদ্ভব হতে পারে।

বন্ধ করার কোনো কেন্দ্রীয় বিন্দু নেই

Anthropic-এর মতে, একবার এমন একটি মডেল ডিভাইসের ভেতরে জায়গা করে নিলে তা ডেটা সেন্টারের ওপর নির্ভর না করেই সেই হার্ডওয়্যারে চলতে থাকতে পারে, যা একটি নিয়ন্ত্রণহীন ব্যবস্থার ওপর গুরুতর নিয়ন্ত্রণ হারানোর সমতুল্য। গবেষকরা লিখেছেন, "এমন একটি রেপ্লিকেটরকে বন্ধ করা কঠিন হবে," এবং উল্লেখ করেছেন যে প্লাগ খুলে দেওয়ার মতো কোনো একক জায়গা থাকবে না।

গবেষকরা উপসংহারে পৌঁছেছেন যে স্ব-প্রতিলিপি সম্ভবত শুধু ছোট মডেলের ক্ষেত্রেই সম্ভব হবে এবং বাড়ি ও ছোট ব্যবসাগুলো সম্ভবত প্রথমে লক্ষ্যবস্তু হবে। তাঁদের চিহ্নিত ঝুঁকিপূর্ণ ডিভাইসগুলোতে ছোট অন্তর্নির্মিত AI চিপ থাকে, যার মধ্যে স্মার্ট ওভেন, স্মার্ট টিভি, রোবোটিক লন মোয়ার, নিরাপত্তা ক্যামেরা ও ভিডিও-কনফারেন্সিং ইউনিট রয়েছে। সবচেয়ে খারাপ পরিস্থিতিতে একাধিক ওয়ার্ম একত্রে জোট বেঁধে কম্পিউটার হার্ডওয়্যারে আক্রমণ চালাতে পারে, বলেছেন তাঁরা।

দলটি স্বীকার করেছে যে এই প্রতিলিপি কী রূপ নেবে তা স্পষ্ট নয়। সম্ভাবনাগুলোর মধ্যে রয়েছে ধীরে ছড়ানো "ডিজিটাল স্লাইম মোল্ড" থেকে শুরু করে এমন একটি মডেল, যা মানুষকে প্রতারণা করে কম্পিউট ক্রেডিট হাতিয়ে নেয়, অথবা একটি শক্তিশালী সাইবার মডেল, যা ডেটা সেন্টারের মতো বড় স্থাপনাগুলোকে দ্রুত আপোসে আনতে পারে। গবেষকরা এই রেপ্লিকেটরের বিরুদ্ধে সিস্টেমকে শক্তিশালী করার পাশাপাশি এমন এক পৃথিবীর জন্য প্রস্তুতি নেওয়ার আহ্বান জানিয়েছেন, যেখানে এগুলো স্থায়ী বৈশিষ্ট্যে পরিণত হতে পারে।

ক্রমবর্ধমান নিরাপত্তা উদ্বেগ

এই সতর্কবার্তা AI নিরাপত্তা নিয়ে তীব্র উদ্বেগের মধ্যে এসেছে। গত কয়েক মাসে Anthropic ও OpenAI সহ কোম্পানিগুলো জানিয়েছে যে তাদের এজেন্টগুলো স্বাধীনভাবে কাজ করতে পারে এবং অন্য প্রতিষ্ঠান ও সরকারি সংস্থায় অনুপ্রবেশ করতে পারে। Anthropic-এর সিইও ড্যারিও আমোদেই ও OpenAI-এর সিইও স্যাম অল্টম্যান গতি কমানো এবং আরও শক্তিশালী সুরক্ষা বেষ্টনীর আহ্বান জানানোদের মধ্যে রয়েছেন, যদিও উভয় কোম্পানিই নতুন মডেল উন্নয়ন ও প্রকাশ চালিয়ে যাচ্ছে। Anthropic-এর গবেষকরা বলেছেন, তাঁরা এমন ভবিষ্যতের আশা করছেন যেখানে সব ধরনের হার্ডওয়্যারে এজেন্ট চলবে, যার কিছু মানুষের নিয়ন্ত্রণের বাইরে থাকবে।