IBM 그래나이트 스위치 4.1, 채팅·판단·음성 인식을 하나의 모델에 담다

IBM 그래나이트 모델 제품군을 개발한 팀이 2026년 10월 15일 그래나이트 스위치 4.1을 출시했다. 새로운 두 모델인 Granite-Switch-4.1-8B와 Granite-Switch-4.1-30B는 하나의 호스팅 엔드포인트에서 자연어 채팅, 일반 및 전문 판단 작업, 음성 전사를 처리하도록 설계됐다.

개발사에 따르면 각 모델은 세 가지 구성 요소를 묶고 있다. 범용 판단을 위한 새로운 Decision aLoRA, 안전 관련 분류를 목표로 하는 Guardian aLoRA, 그리고 팀이 OpenASR 리더보드에서 가장 빠른 음성 인식 모델이라고 설명하는 Granite-Speech-5.0-Turbo-CTC다. 팀은 Guardian 어댑터가 안전 판단 작업에서 평균적으로 Jev 1.13, Microsoft-Decision-1, GPT-Luna-Decisions, Clef-Flash보다 낫다고 주장한다.

같은 하드웨어에서 더 높은 성능

개발사는 결합된 모델이 기본 모델 단독 사용 때와 거의 같은 GPU 메모리를 쓴다고 밝혔다. 어댑터가 Activated LoRA로 만들어졌기 때문에, 기본 모델 생성 중 만들어진 키-값 캐시를 이후 어댑터 기반 판단이 재사용할 수 있어 반복 연산을 피할 수 있다. 팀은 저랭크 어댑터 추론 속도를 높이는 vLLM에 대한 최근 기여와 함께 배치된 음성 인코더도 성능 향상의 요인으로 꼽았다.

팀이 공개한 비교에서 고정된 Granite 기본 모델과 네 개의 전문 aLoRA를 실행한 Granite-Switch-4.1-30B는, 고정된 Qwen 기본 모델에 범용 판단 LoRA 하나를 붙인 Jev-27B보다 5단계 검색 증강 생성 워크플로를 훨씬 빠르게 마쳤다. 개발사는 자사의 전문 granitelib 어댑터가 좁은 범위의 분류 작업에서 범용 판단 모델보다 나은 성능을 낼 수 있다고도 주장한다.

직접 만드는 모델

공개된 모델에는 미리 정의된 어댑터 세트가 포함되지만, 사용자는 Granite Libraries 저장소에서 맞춤형 Granite Switch 모델을 구성할 수 있다. 팀은 Mellea에서 어댑터를 학습시키는 Adapter SDK와 튜토리얼을 준비 중이라고 밝혔다. 시연으로 팀은 맞춤형 30억 매개변수 Granite Switch 모델이 Doom을 초당 60~100회 판단 속도로 플레이했으며, 이는 Jev의 초당 10회보다 빠르다고 전하면서 게임 진행을 해설까지 했다고 설명했다.

이 접근법은 별도의 GPU에서 개별 모델을 돌리지 않고도 콘텐츠 검수, 전사, 대화형 기능을 원하는 조직을 겨냥한다. 성능 수치는 개발사 자체 테스트에서 나온 것이며, 팀은 더 자세한 내용과 데이터를 앞으로 몇 주 안에 공개하겠다고 밝혔다.