IBM Granite Switch 4.1: sohbet, karar ve konuşma tanıma tek modelde

IBM'in Granite model ailesinin geliştiricileri, 15 Ekim 2026'da Granite Switch 4.1 serisini duyurdu. 8 milyar ve 30 milyar parametreli iki sürümle gelen Granite-Switch-4.1-8B ve Granite-Switch-4.1-30B modelleri; doğal dilde yanıt üretme, genel ve uzmanlaşmış karar görevleri ile konuşma tanımayı aynı barındırılan uç noktada birleştiriyor.

Ekibin açıklamasına göre modeller üç bileşen içeriyor: genel amaçlı kararlar için yeni bir Decision aLoRA adaptörü, güvenlikle ilgili sınıflandırmalara odaklanan Guardian aLoRA ve OpenASR sıralamasında en hızlı otomatik konuşma tanıma modeli olarak yer aldığı belirtilen Granite-Speech-5.0-Turbo-CTC. Şirket, Guardian adaptörünün güvenlik odaklı karar görevlerinde ortalamada Jev 1.13, Microsoft-Decision-1, GPT-Luna-Decisions ve Clef-Flash gibi modelleri geride bıraktığını öne sürüyor.

Daha az GPU ile daha fazla yetenek

Geliştiricilere göre bu üç teknoloji temel modelle birlikte tek bir modelde birleştirildiğinde, GPU üzerinde temel modelin tek başına kullandığı VRAM miktarına yakın bellek tüketiyor. Adaptörler, önbellek açısından verimli Activated LoRA (aLoRA) yapısıyla kurulduğu için temel modelin ürettiği KV önbelleği sonraki karar adımlarında yeniden kullanılabiliyor. Ekip, düşük dereceli adaptörlerin çıkarımını hızlandırmak için vLLM projesine yaptığı katkıların da bu hıza destek olduğunu belirtiyor.

Ekibin paylaştığı bir karşılaştırmada, temel Granite modeli ve dört uzman aLoRA içeren Granite-Switch-4.1-30B, Qwen tabanlı ve tek genel karar adaptörü kullanan Jev-27B'ye karşı beş adımlı gerçek bir RAG iş akışını çok daha kısa sürede tamamladı. Geliştiriciler ayrıca uzmanlaşmış granitelib adaptörlerinin, belirli sınıflandırma görevlerinde genel amaçlı karar modellerinden daha iyi sonuç verebildiğini savunuyor.

Topluluğa açık, modüler yapı

Yayımlanan iki model, önceden seçilmiş adaptörlerle hazır biçimde sunuluyor; ancak kullanıcılar Granite Libraries deposundaki adaptörleri karıştırarak kendi Granite Switch modellerini oluşturabiliyor. Ekip, Mellea'da adaptör eğitimi için bir Adapter SDK ve eğitim içerikleri yayımlamayı planladığını açıkladı. Örnek olarak 3 milyar parametreli özel bir Granite Switch modelinin Doom oyununu saniyede 60 ila 100 kararla oynadığı, Jev için ise saniyede 10 karar bildirildiği aktarılıyor.

Bu yaklaşım, kurumların tek bir model barındırarak sohbet, içerik denetimi ve transkripsiyon gibi farklı işleri aynı donanımda yürütmesini hedefliyor. Performans iddiaları şimdilik geliştiricilerin kendi ölçümlerine dayanıyor; ekip önümüzdeki haftalarda daha fazla veri paylaşacağını duyurdu.