IBM lança Granite Switch 4.1, que reúne chat, decisões e fala em um único modelo

A equipe por trás da família de modelos Granite, da IBM, lançou o Granite Switch 4.1 em 15 de outubro de 2026. Os dois novos modelos, Granite-Switch-4.1-8B e Granite-Switch-4.1-30B, foram desenvolvidos para lidar com chat em linguagem natural, tarefas de decisão gerais e especializadas e transcrição de fala a partir de um único endpoint hospedado.

Segundo os desenvolvedores, cada modelo reúne três componentes: um novo Decision aLoRA para decisões de uso geral, um Guardian aLoRA voltado à classificação relacionada à segurança e o Granite-Speech-5.0-Turbo-CTC, que a equipe descreve como o modelo de reconhecimento de fala mais rápido do ranking OpenASR. A equipe afirma que o adaptador Guardian, em média, supera o Jev 1.13, o Microsoft-Decision-1, o GPT-Luna-Decisions e o Clef-Flash em tarefas de decisão de segurança.

Mais capacidade no mesmo hardware

Os desenvolvedores dizem que o modelo combinado usa aproximadamente a mesma memória de GPU que o modelo base sozinho. Como os adaptadores são construídos como Activated LoRAs, o cache de chave-valor gerado durante a geração do modelo base pode ser reutilizado por decisões posteriores baseadas em adaptadores, evitando cálculos repetidos. A equipe também credita suas recentes contribuições ao vLLM, que aceleram a inferência de adaptadores de baixo rank, e a um codificador de fala integrado.

Em uma comparação publicada pela equipe, o Granite-Switch-4.1-30B, executando uma base Granite congelada com quatro aLoRAs especializados, concluiu um fluxo de geração aumentada por recuperação de cinco etapas muito mais rapidamente que o Jev-27B, que combina uma base Qwen congelada com um único LoRA de decisão genérico. Os desenvolvedores também argumentam que seus adaptadores granitelib especializados podem superar modelos de decisão generalistas em tarefas de classificação restritas.

Modelos feitos sob medida

Os modelos lançados vêm com um conjunto predefinido de adaptadores, mas os usuários podem montar modelos Granite Switch personalizados a partir do repositório Granite Libraries. A equipe planeja um Adapter SDK para treinar adaptadores no Mellea, junto com tutoriais. Como demonstração, ela diz que um modelo Granite Switch personalizado de 3 bilhões de parâmetros jogou Doom a 60 a 100 decisões por segundo, em comparação com as 10 por segundo informadas para o Jev, narrando ao mesmo tempo sua jogatina.

A abordagem tem como alvo organizações que desejam recursos de moderação, transcrição e conversação sem executar modelos separados em GPUs diferentes. Os números de desempenho vêm dos próprios testes dos desenvolvedores, e a equipe afirma que mais detalhes e dados serão divulgados nas próximas semanas.