IBM Granite Switch 4.1 réunit chat, décisions et reconnaissance vocale dans un seul modèle

L'équipe à l'origine de la famille de modèles Granite d'IBM a publié Granite Switch 4.1 le 15 octobre 2026. Les deux nouveaux modèles, Granite-Switch-4.1-8B et Granite-Switch-4.1-30B, sont conçus pour gérer, depuis un seul point d'accès hébergé, le chat en langage naturel, des tâches de décision générales et spécialisées, ainsi que la transcription vocale.

Selon les développeurs, chaque modèle regroupe trois composants : un nouveau Decision aLoRA destiné aux décisions à usage général, un Guardian aLoRA dédié à la classification liée à la sécurité, et Granite-Speech-5.0-Turbo-CTC, que l'équipe présente comme le modèle de reconnaissance vocale le plus rapide du classement OpenASR. L'équipe affirme qu'en moyenne, l'adaptateur Guardian surpasse Jev 1.13, Microsoft-Decision-1, GPT-Luna-Decisions et Clef-Flash sur les tâches de décision liées à la sécurité.

Davantage de capacités sur le même matériel

Les développeurs indiquent que le modèle combiné utilise à peu près la même mémoire GPU que le modèle de base seul. Comme les adaptateurs sont construits comme des Activated LoRA, le cache clé-valeur produit lors de la génération du modèle de base peut être réutilisé par les décisions ultérieures des adaptateurs, ce qui évite des calculs répétés. L'équipe met également en avant ses récentes contributions à vLLM, qui accélèrent l'inférence des adaptateurs à faible rang, ainsi qu'un encodeur vocal co-localisé.

Dans une comparaison publiée par l'équipe, Granite-Switch-4.1-30B, qui exécute une base Granite gelée avec quatre aLoRA spécialisés, a terminé un workflow de génération augmentée par récupération en cinq étapes nettement plus vite que Jev-27B, qui associe une base Qwen gelée à un seul LoRA de décision générique. Les développeurs affirment aussi que leurs adaptateurs granitelib spécialisés peuvent surpasser les modèles de décision généralistes sur des tâches de classification étroites.

Construire vos propres modèles

Les modèles publiés sont livrés avec un ensemble prédéfini d'adaptateurs, mais les utilisateurs peuvent assembler des modèles Granite Switch personnalisés à partir du dépôt Granite Libraries. L'équipe prévoit un Adapter SDK pour entraîner des adaptateurs dans Mellea, accompagné de tutoriels. En guise de démonstration, elle indique qu'un modèle Granite Switch personnalisé de 3 milliards de paramètres a joué à Doom à une cadence de 60 à 100 décisions par seconde, contre 10 par seconde pour Jev selon les données publiées, tout en commentant sa partie à voix haute.

Cette approche vise les organisations qui souhaitent des fonctions de modération, de transcription et de conversation sans faire tourner des modèles distincts sur des GPU séparés. Les chiffres de performance proviennent des propres tests des développeurs, et l'équipe affirme que davantage de détails et de données seront publiés dans les semaines à venir.