IBM का Granite Switch 4.1 चैट, निर्णय और स्पीच को एक ही मॉडल में लाता है

IBM की Granite मॉडल फ़ैमिली के पीछे की टीम ने 15 अक्टूबर 2026 को Granite Switch 4.1 जारी किया। दो नए मॉडल, Granite-Switch-4.1-8B और Granite-Switch-4.1-30B, एक ही होस्टेड एंडपॉइंट से प्राकृतिक-भाषा चैट, सामान्य और विशेष निर्णय कार्यों, और speech transcription को संभालने के लिए डिज़ाइन किए गए हैं।

डेवलपर्स के अनुसार, हर मॉडल में तीन घटक शामिल हैं: सामान्य उद्देश्य के निर्णयों के लिए एक नया Decision aLoRA, सुरक्षा-संबंधी वर्गीकरण के लिए Guardian aLoRA, और Granite-Speech-5.0-Turbo-CTC, जिसे टीम OpenASR लीडरबोर्ड पर सबसे तेज़ speech recognition मॉडल बताती है। टीम का दावा है कि Guardian एडेप्टर सुरक्षा निर्णय कार्यों पर औसतन Jev 1.13, Microsoft-Decision-1, GPT-Luna-Decisions और Clef-Flash से बेहतर प्रदर्शन करता है।

उसी हार्डवेयर पर अधिक क्षमता

डेवलपर्स का कहना है कि संयुक्त मॉडल अकेले बेस मॉडल जितनी ही GPU मेमोरी का उपयोग करता है। चूँकि एडेप्टर Activated LoRAs के रूप में बनाए गए हैं, बेस मॉडल के जनरेशन के दौरान बना key-value cache बाद के एडेप्टर-आधारित निर्णयों में दोबारा इस्तेमाल हो सकता है, जिससे बार-बार गणना नहीं करनी पड़ती। टीम अपने vLLM में हाल के योगदानों का श्रेय भी लेती है, जो low-rank adapter inference को तेज़ करते हैं, साथ ही एक साथ स्थित speech encoder का भी।

टीम द्वारा प्रकाशित तुलना में, चार विशेष aLoRA के साथ एक फ़्रोज़न Granite बेस चलाने वाला Granite-Switch-4.1-30B पाँच-चरणीय retrieval-augmented generation वर्कफ़्लो को Jev-27B की तुलना में काफ़ी तेज़ी से पूरा करता है, जो एक फ़्रोज़न Qwen बेस को एक सामान्य निर्णय LoRA के साथ जोड़ता है। डेवलपर्स यह भी तर्क देते हैं कि उनके विशेष granitelib एडेप्टर संकीर्ण वर्गीकरण कार्यों पर सामान्य-उद्देश्य निर्णय मॉडलों से बेहतर प्रदर्शन कर सकते हैं।

अपना मॉडल खुद बनाएँ

जारी किए गए मॉडलों में एडेप्टर का पूर्वनिर्धारित सेट शामिल है, लेकिन उपयोगकर्ता Granite Libraries रिपॉज़िटरी से कस्टम Granite Switch मॉडल बना सकते हैं। टीम Mellea में एडेप्टर प्रशिक्षित करने के लिए एक Adapter SDK और ट्यूटोरियल की योजना बना रही है। एक प्रदर्शन के रूप में, टीम का कहना है कि एक कस्टम 3-बिलियन-पैरामीटर Granite Switch मॉडल ने Doom 60 से 100 निर्णय प्रति सेकंड की दर से खेला, जबकि Jev के लिए 10 प्रति सेकंड बताया गया है, और साथ ही वह अपने खेल का वर्णन भी करता रहा।

यह दृष्टिकोण उन संगठनों को लक्षित करता है जो अलग-अलग GPU पर अलग मॉडल चलाए बिना मॉडरेशन, ट्रांसक्रिप्शन और conversational सुविधाएँ चाहते हैं। प्रदर्शन आँकड़े डेवलपर्स के अपने परीक्षणों से आए हैं, और टीम का कहना है कि आने वाले हफ़्तों में और विवरण व डेटा जारी किया जाएगा।