মেটা Muse Spark Open প্রকাশ করেছে, যা ম্যাকে চলতে পারে এমন একটি ওপেন-ওয়েট মডেল

মেটা ২০২৬ সালের ১৫ অক্টোবর Muse Spark Open প্রকাশ করেছে, যা কোডিং এবং বহু-ধাপের যুক্তি প্রক্রিয়ার জন্য তৈরি একটি নতুন ওপেন-ওয়েট কৃত্রিম বুদ্ধিমত্তা মডেল। কোম্পানির ভাষ্য অনুযায়ী, এখন পর্যন্ত যুক্তরাষ্ট্রে তৈরি সবচেয়ে সক্ষম ওপেন-ওয়েট মডেল এটি। Apple-এর সঙ্গে যৌথভাবে অপ্টিমাইজ করা এই মডেল দুটি Mac Studio ডেস্কটপ জুড়ে স্থানীয়ভাবে চালানো যায়।

Muse Spark Open-এর মোট প্যারামিটার ৮১৬ বিলিয়ন, যার মধ্যে একসময়ে ৪২ বিলিয়ন সক্রিয় থাকে, এবং এর কনটেক্সট উইন্ডো ১০ লক্ষ টোকেন। এটি স্বাভাবিকভাবেই মাল্টিমোডাল। মেটা জানিয়েছে, জটিল সফটওয়্যার উন্নয়ন, দীর্ঘ সময়ের কাজ এবং একাধিক ধাপে টুল ব্যবহারের প্রয়োজন হয় এমন ওয়ার্কফ্লোর জন্য এটি তৈরি করা হয়েছে। কোম্পানির প্রকাশিত বেঞ্চমার্কে দেখা যায়, কিছু বিভাগে মডেলটি প্রতিযোগী ওপেন-ওয়েট সিস্টেমকে ছাড়িয়ে যায় এবং অন্য কিছু বিভাগে কাছাকাছি অবস্থানে থাকে।

দুটি Mac Studio, এক টেরাবাইট মেমরি

মেটার মতে, MLX ফ্রেমওয়ার্ক ব্যবহার করে Apple-এর দুটি M5 Ultra Mac Studio-তে মডেলটি চলে। Apple-এর ইউনিফাইড মেমরি ডিজাইনের কারণে প্রতিটি মেশিনের ইন্টিগ্রেটেড GPU ৫১২ GB পর্যন্ত ঠিকানা দিতে পারে, তাই দুটি ইউনিট যুক্ত করলে মোট ১ TB মেমরি পাওয়া যায়, যার মধ্যে মডেলের ওয়েট ভাগ হয়ে থাকে। মেটা জানিয়েছে, M5 Ultra-এর মেমরি ব্যান্ডউইথ প্রতি সেকেন্ডে ১.২ TB। তবে এই সেটআপ মোটেই সস্তা নয় এবং ৫১২ GB Mac Studio-র দাম এখনও Apple প্রকাশ করেনি।

শুধু Apple হার্ডওয়্যারই লক্ষ্য নয়। সমর্থিত ইনফারেন্স সফটওয়্যারের মধ্যে রয়েছে SGLang, vLLM, TensorRT-LLM, Hugging Face Transformers, Apple MLX, llama.cpp এবং Unsloth। SGLang রিলিজের সঙ্গে আসে কাস্টম, স্বয়ংক্রিয়ভাবে টিউনযোগ্য Helion GPU কার্নেল, যা মেটার দাবি অনুযায়ী Nvidia ও AMD কার্ডে কার্নেল-স্তরে ১.০৩x থেকে ৩.৯৫x পর্যন্ত গতি বাড়ায় এবং AMD-র MI350-এ এন্ড-টু-এন্ড ৩% উন্নতি দেয়। ডেভেলপাররা PyTorch ও TorchTitan ব্যবহার করে মডেলটি ফাইন-টিউন করতে পারেন।

বাগ ফিক্স থেকে ভিডিও এডিট পর্যন্ত

মেটা নিজস্ব এআই কোডিং টার্মিনাল Muse Code দিয়ে মডেলটি পরীক্ষা করেছে। এক প্রদর্শনে এটি বাগ ঠিক করে, নতুন ফিচার যোগ করে এবং ওপেন-সোর্স Mastodon ক্লায়েন্ট Ice Cubes-এর বিল্ড সম্পন্ন করে। অন্য এক প্রদর্শনে, DaVinci Resolve-এর সঙ্গে কাজ করে এটি ফুটেজ ফ্রেম ধরে ধরে পর্যালোচনা করে, হাইলাইট বেছে নেয় এবং ক্লিপগুলো উল্লম্ব ফরম্যাটে ক্রপ করে।

Baseten, Fireworks AI, Groq, Modal, Nebius, OpenRouter ও Together AI-এর মাধ্যমে API অ্যাক্সেস পাওয়া যাচ্ছে, আর Hugging Face, Amazon SageMaker AI, Google Cloud Model Garden ও Microsoft Foundry Models থেকে ওয়েট ডাউনলোড করা যাবে। এই রিলিজ Muse Model License-এর আওতাভুক্ত, যা অনেক ডেভেলপারকে বিনামূল্যে ব্যবহারের অনুমতি দেয়, তবে বাণিজ্যিক ব্যবহারে কিছু বিধিনিষেধ আরোপ করে। স্থানীয়ভাবে চালানোর ওপর জোর দেওয়ার অর্থ হলো পর্যাপ্ত শক্তিশালী হার্ডওয়্যার থাকলে ব্যবহারকারীরা ক্লাউড সেবার উপর নির্ভর না করেই একটি সর্বাধুনিক স্কেলের মডেল চালাতে পারবেন।