IBM Granite Switch 4.1 reúne chat, decisiones y voz en un solo modelo

El equipo detrás de la familia de modelos Granite de IBM lanzó Granite Switch 4.1 el 15 de octubre de 2026. Los dos nuevos modelos, Granite-Switch-4.1-8B y Granite-Switch-4.1-30B, están diseñados para gestionar chat en lenguaje natural, tareas de decisión generales y especializadas, y transcripción de voz desde un único endpoint alojado.

Según los desarrolladores, cada modelo integra tres componentes: un nuevo Decision aLoRA para decisiones de propósito general, un Guardian aLoRA orientado a la clasificación relacionada con la seguridad, y Granite-Speech-5.0-Turbo-CTC, que el equipo describe como el modelo de reconocimiento de voz más rápido de la clasificación OpenASR. El equipo afirma que el adaptador Guardian supera en promedio a Jev 1.13, Microsoft-Decision-1, GPT-Luna-Decisions y Clef-Flash en tareas de decisión sobre seguridad.

Más capacidad con el mismo hardware

Los desarrolladores afirman que el modelo combinado utiliza aproximadamente la misma memoria de GPU que el modelo base por sí solo. Como los adaptadores están construidos como Activated LoRAs, la caché clave-valor generada durante una generación del modelo base puede reutilizarse en decisiones posteriores basadas en adaptadores, evitando cálculos repetidos. El equipo también atribuye el mérito a sus contribuciones recientes a vLLM, que aceleran la inferencia de adaptadores de bajo rango, y a un codificador de voz colocado junto al modelo.

En una comparación publicada por el equipo, Granite-Switch-4.1-30B, que ejecuta una base Granite congelada con cuatro aLoRAs especializados, completó un flujo de trabajo de generación aumentada por recuperación de cinco pasos mucho más rápido que Jev-27B, que combina una base Qwen congelada con un único LoRA de decisión genérico. Los desarrolladores también sostienen que sus adaptadores granitelib especializados pueden superar a los modelos de decisión generalistas en tareas de clasificación acotadas.

Crea tus propios modelos

Los modelos publicados incluyen un conjunto predefinido de adaptadores, pero los usuarios pueden ensamblar modelos Granite Switch personalizados a partir del repositorio Granite Libraries. El equipo planea un Adapter SDK para entrenar adaptadores en Mellea, junto con tutoriales. Como demostración, afirma que un modelo Granite Switch personalizado de 3.000 millones de parámetros jugó a Doom a entre 60 y 100 decisiones por segundo, frente a las 10 por segundo reportadas para Jev, mientras narraba su partida.

El enfoque está dirigido a organizaciones que quieren funciones de moderación, transcripción y conversación sin ejecutar modelos separados en GPU distintas. Las cifras de rendimiento proceden de las pruebas propias de los desarrolladores, y el equipo afirma que se publicarán más detalles y datos en las próximas semanas.