IBMのGranite Switch 4.1、チャット・判断・音声認識を1つのモデルに統合

IBMのGraniteモデルファミリーを開発するチームは、2026年10月15日にGranite Switch 4.1を公開した。新たに発表された2つのモデル、Granite-Switch-4.1-8BとGranite-Switch-4.1-30Bは、自然言語によるチャット、一般的および専門的な判断タスク、音声の文字起こしを、1つのホスト型エンドポイントから処理するよう設計されている。

開発者によると、各モデルは3つのコンポーネントをまとめて搭載している。汎用的な判断を行う新しいDecision aLoRA、安全性に関する分類を目的としたGuardian aLoRA、そしてOpenASRリーダーボードで最速の音声認識モデルだとチームが説明するGranite-Speech-5.0-Turbo-CTCだ。チームは、安全性判断タスクにおいてGuardianアダプターが平均でJev 1.13、Microsoft-Decision-1、GPT-Luna-Decisions、Clef-Flashを上回ると主張している。

同じハードウェアでより高い性能

開発者によると、統合されたモデルが必要とするGPUメモリは、ベースモデル単体とほぼ同じだという。アダプターはActivated LoRAとして構築されているため、ベースモデルの生成時に作られるキー・バリューキャッシュを、後続のアダプターによる判断で再利用でき、同じ計算を繰り返さずに済む。チームはまた、低ランクアダプターの推論を高速化する最近のvLLMへの貢献と、同一配置された音声エンコーダーも利点として挙げている。

チームが公表した比較では、凍結したGraniteベースに4つの専門aLoRAを組み合わせて動作させたGranite-Switch-4.1-30Bが、5段階の検索拡張生成ワークフローを、凍結したQwenベースに1つの汎用判断LoRAを組み合わせたJev-27Bよりもはるかに速く完了した。開発者はまた、専門的なgranitelibアダプターは、限定的な分類タスクにおいて汎用的な判断モデルを上回ることができるとも主張している。

自分でモデルを構築する

公開されたモデルには定義済みのアダプターセットが含まれているが、ユーザーはGranite Librariesリポジトリからカスタムのgranite Switchモデルを組み立てることができる。チームはMelleaでアダプターを学習するためのAdapter SDKをチュートリアルとともに提供する予定だ。デモとして、チームはカスタムの30億パラメータのGranite Switchモデルが、Doomを毎秒60〜100回の判断速度でプレイし、その間プレイ内容を実況もしたと説明している。これはJevが報告した毎秒10回と比べて大幅に速い。

このアプローチは、別々のGPUで個別のモデルを動かすことなく、モデレーション、文字起こし、対話機能を求める組織を主な対象としている。性能数値は開発者自身のテストによるもので、チームは今後数週間のうちにさらなる詳細とデータを公表するとしている。