Reflection প্রকাশ করল Beam: Apache 2.0 লাইসেন্সের অধীনে 501B ওপেন মডেল

যুক্তরাষ্ট্রভিত্তিক নতুন কৃত্রিম বুদ্ধিমত্তা ল্যাব Reflection ২০২৬ সালের ১৬ অক্টোবর Hugging Face-এ তাদের প্রথম মডেল Beam প্রকাশ করেছে। মিক্সচার-অফ-এক্সপার্টস ধাঁচের এই মডেলে মোট ৫০১ বিলিয়ন প্যারামিটার রয়েছে, যার মধ্যে প্রতিটি টোকেনের জন্য প্রায় ২৩ বিলিয়ন সক্রিয় থাকে। এটি Apache 2.0 লাইসেন্সের অধীনে প্রকাশিত, যা বাণিজ্যিক ব্যবহারের অনুমতি দেয়।

Beam শুধু টেক্সট ইনপুট গ্রহণ করে এবং এর কনটেক্সট উইন্ডো ১০ লাখ টোকেন পর্যন্ত। Reflection এটিকে সফটওয়্যার ইঞ্জিনিয়ারিং ও এজেন্টভিত্তিক কাজের জন্য উপস্থাপন করেছে, যাতে যেসব দল নিজেদের হার্ডওয়্যার বা ক্লাউডে চালাতে ও কাস্টমাইজ করতে পারে এমন ফ্রন্টিয়ার-স্কেলের মডেল চায়, তাদের লক্ষ্য করে। রিলিজের সঙ্গে Rust-এ লেখা একটি উন্মুক্ত-উৎস হার্নেসও রয়েছে, যা ল্যাবের মতে এই মডেল থেকে সর্বোত্তম কর্মক্ষমতা পেতে সাহায্য করে।

আর্কিটেকচার ও হার্ডওয়্যার

মডেলটিতে ৫২টি লেয়ার রয়েছে। প্রথম তিনটি বাদে বাকি সবগুলোতে ২৫৬টি এক্সপার্টের একটি মিক্সচার-অফ-এক্সপার্টস ব্লক রয়েছে, যার মধ্যে প্রতি টোকেনে আটটি রাউট করা হয়। রাউটিংয়ে DeepSeek-V3-এর প্রবর্তিত গ্রুপ-লিমিটেড পদ্ধতি অনুসরণ করা হয়েছে, তবে Beam শেয়ার্ড এক্সপার্ট বাদ দিয়েছে। তেতাল্লিশটি লেয়ার আগের ৫১২ টোকেনের উপর স্লাইডিং-উইন্ডো অ্যাটেনশন ব্যবহার করে, আর নয়টি লেয়ার পুরো কনটেক্সটে অ্যাটেনশন দেয়। এর ফলে প্রতি টোকেনের জন্য ক্যাশ বৃদ্ধি প্রায় ৩৬ KiB-তে সীমিত থাকে, যা সব লেয়ারে গ্লোবাল অ্যাটেনশনের প্রয়োজনের প্রায় এক-ষষ্ঠাংশ।

প্রতিটি এক্সপার্ট মেমরিতে থাকায় Beam সার্ভ করতে ৫০১B মডেলের মেমরি প্রয়োজন হয়, অথচ গতি প্রায় ২৩B মডেলের কাছাকাছি থাকে। BF16 চেকপয়েন্টের আকার প্রায় ১ TB। Reflection Hopper ও Ampere চিপের উপযোগী FP8 ওয়েট এবং NVIDIA Blackwell GPU-এর জন্য NVFP4 সংস্করণও দিয়েছে, যেখানে বেশিরভাগ প্যারামিটার ৪-বিট প্রিসিশনে সংরক্ষিত হয়। লঞ্চের সময় থেকেই transformers, vLLM ও SGLang-এ সমর্থন ছিল, এবং সঙ্গে সুপারভাইজড ফাইন-টিউনিং ও রিইনফোর্সমেন্ট লার্নিংয়ের রেসিপিও রয়েছে।

বেঞ্চমার্ক

Reflection-এর দেওয়া তথ্য অনুযায়ী BF16 সংস্করণ SWEBench Verified-এ ৮১.৬%, Terminal Bench v2.1-এ ৮০.১% এবং SWE Bench Pro v1-এ ৬৬.১% স্কোর করেছে। কোম্পানির সংখ্যাগুলো দেখাচ্ছে, পূর্ণ ও কম-প্রিসিশন চেকপয়েন্টের মধ্যে পার্থক্য খুব সামান্য। এই ফলাফল ডেভেলপারের নিজের, যা এখনও স্বাধীনভাবে যাচাই করা হয়নি।

Beam-এর উপর তৈরি সেরা কমিউনিটি প্রকল্পগুলোর জন্য Reflection ১০,০০০ ডলারের Hugging Face Hub ক্রেডিটও দিচ্ছে, যার মধ্যে রয়েছে ডেমো থেকে শুরু করে কোয়ান্টাইজেশন ও বেঞ্চমার্ক স্টাডি। এই রিলিজ এমন প্রতিষ্ঠানের জন্য আরেকটি বড় ওপেন-ওয়েট বিকল্প যোগ করল, যারা নিজেদের নিয়ন্ত্রিত অবকাঠামোতে স্থাপনযোগ্য কোডিং-কেন্দ্রিক মডেল খুঁজছে।