IBM Granite Switch 4.1 vereint Chat, Entscheidungen und Sprache in einem Modell

Das Team hinter der Granite-Modellfamilie von IBM hat Granite Switch 4.1 am 15. Oktober 2026 veröffentlicht. Die beiden neuen Modelle, Granite-Switch-4.1-8B und Granite-Switch-4.1-30B, sind darauf ausgelegt, natürlichsprachige Chats, allgemeine und spezialisierte Entscheidungsaufgaben sowie Spracherkennung über einen einzigen gehosteten Endpunkt abzuwickeln.

Laut den Entwicklern bündelt jedes Modell drei Komponenten: einen neuen Decision aLoRA für allgemeine Entscheidungen, einen Guardian aLoRA für sicherheitsrelevante Klassifizierung und Granite-Speech-5.0-Turbo-CTC, das das Team als schnellstes Spracherkennungsmodell auf der OpenASR-Bestenliste beschreibt. Das Team behauptet, der Guardian-Adapter übertreffe bei Sicherheitsentscheidungen im Durchschnitt Jev 1.13, Microsoft-Decision-1, GPT-Luna-Decisions und Clef-Flash.

Mehr Leistung auf derselben Hardware

Die Entwickler sagen, das kombinierte Modell benötige etwa so viel GPU-Speicher wie das Basismodell allein. Da die Adapter als Activated LoRAs aufgebaut sind, kann der Key-Value-Cache, der bei der Generierung des Basismodells entsteht, von späteren adapterbasierten Entscheidungen wiederverwendet werden, wodurch wiederholte Berechnungen entfallen. Das Team verweist außerdem auf seine jüngsten Beiträge zu vLLM, die die Inferenz von Low-Rank-Adaptern beschleunigen, sowie auf einen mitgelieferten Sprach-Encoder.

In einem vom Team veröffentlichten Vergleich beendete Granite-Switch-4.1-30B, das eine eingefrorene Granite-Basis mit vier spezialisierten aLoRAs kombiniert, einen fünfstufigen Retrieval-Augmented-Generation-Workflow deutlich schneller als Jev-27B, das eine eingefrorene Qwen-Basis mit einem generischen Entscheidungs-LoRA verbindet. Die Entwickler argumentieren zudem, dass ihre spezialisierten granitelib-Adapter bei eng umrissenen Klassifizierungsaufgaben generalistische Entscheidungsmodelle übertreffen können.

Eigene Modelle bauen

Die veröffentlichten Modelle enthalten einen vordefinierten Satz an Adaptern, Nutzer können aber über das Repository Granite Libraries eigene Granite-Switch-Modelle zusammenstellen. Das Team plant ein Adapter SDK zum Trainieren von Adaptern in Mellea, samt Tutorials. Als Demonstration gibt es an, ein eigenes Granite-Switch-Modell mit 3 Milliarden Parametern habe Doom mit 60 bis 100 Entscheidungen pro Sekunde gespielt, verglichen mit 10 pro Sekunde bei Jev, und dabei sein Spiel auch kommentiert.

Der Ansatz richtet sich an Organisationen, die Moderation, Transkription und Konversationsfunktionen nutzen wollen, ohne separate Modelle auf getrennten GPUs laufen zu lassen. Die Leistungswerte stammen aus eigenen Tests der Entwickler, und das Team kündigt an, in den kommenden Wochen weitere Details und Daten nachzureichen.