IBM Granite Switch 4.1 รวมแชต การตัดสินใจ และการถอดเสียงพูดไว้ในโมเดลเดียว

ทีมที่อยู่เบื้องหลังตระกูลโมเดล Granite ของ IBM เปิดตัว Granite Switch 4.1 เมื่อวันที่ 15 ตุลาคม 2026 โมเดลใหม่สองรุ่น ได้แก่ Granite-Switch-4.1-8B และ Granite-Switch-4.1-30B ออกแบบมาเพื่อรองรับการสนทนาด้วยภาษาธรรมชาติ งานตัดสินใจทั้งแบบทั่วไปและเฉพาะทาง และการถอดความเสียงพูด ผ่านปลายทางที่โฮสต์ไว้จุดเดียว

ตามข้อมูลของผู้พัฒนา โมเดลแต่ละรุ่นประกอบด้วยส่วนประกอบสามชิ้น ได้แก่ Decision aLoRA ใหม่สำหรับการตัดสินใจทั่วไป Guardian aLoRA ที่มุ่งเน้นการจำแนกประเภทที่เกี่ยวข้องกับความปลอดภัย และ Granite-Speech-5.0-Turbo-CTC ซึ่งทีมระบุว่าเป็นโมเดลการจดจำเสียงพูดที่เร็วที่สุดบนลีดเดอร์บอร์ด OpenASR ทีมอ้างว่า Guardian adapter มีประสิทธิภาพเหนือกว่า Jev 1.13, Microsoft-Decision-1, GPT-Luna-Decisions และ Clef-Flash ในงานตัดสินใจด้านความปลอดภัย โดยเฉลี่ย

ความสามารถที่เพิ่มขึ้นบนฮาร์ดแวร์เดิม

ผู้พัฒนาระบุว่าโมเดลรวมนี้ใช้หน่วยความจำ GPU ใกล้เคียงกับโมเดลพื้นฐานเพียงอย่างเดียว เนื่องจากอะแดปเตอร์ถูกสร้างเป็น Activated LoRA จึงสามารถนำ key-value cache ที่สร้างขึ้นระหว่างการประมวลผลของโมเดลพื้นฐานกลับมาใช้ซ้ำในการตัดสินใจของอะแดปเตอร์ในภายหลัง ช่วยหลีกเลี่ยงการคำนวณซ้ำ ทีมยังให้เครดิตกับผลงานล่าสุดของตนใน vLLM ซึ่งช่วยเร่งการอนุมานของอะแดปเตอร์แบบอันดับต่ำ และตัวเข้ารหัสเสียงที่ทำงานร่วมกันในระบบเดียวกัน

ในการเปรียบเทียบที่ทีมเผยแพร่ Granite-Switch-4.1-30B ซึ่งทำงานด้วยโมเดลพื้นฐาน Granite ที่แช่แข็งไว้พร้อม aLoRA เฉพาะทางสี่ตัว สามารถทำงานขั้นตอน retrieval-augmented generation ห้าขั้นตอนให้เสร็จได้เร็วกว่า Jev-27B ซึ่งใช้โมเดลพื้นฐาน Qwen ที่แช่แข็งร่วมกับ LoRA สำหรับการตัดสินใจทั่วไปเพียงหนึ่งตัว ผู้พัฒนายังโต้แย้งว่าอะแดปเตอร์ granitelib เฉพาะทางของตนสามารถทำงานได้ดีกว่าโมเดลการตัดสินใจแบบทั่วไปในงานจำแนกประเภทที่มีขอบเขตแคบ

สร้างโมเดลของคุณเอง

โมเดลที่เปิดตัวมาพร้อมชุดอะแดปเตอร์ที่กำหนดไว้ล่วงหน้า แต่ผู้ใช้สามารถประกอบโมเดล Granite Switch แบบกำหนดเองได้จากที่เก็บ Granite Libraries ทีมมีแผนจะเปิดตัว Adapter SDK สำหรับฝึกอะแดปเตอร์ใน Mellea พร้อมบทแนะนำ เพื่อสาธิต ทีมระบุว่าโมเดล Granite Switch ขนาด 3 พันล้านพารามิเตอร์ที่กำหนดเองสามารถเล่นเกม Doom ได้ที่ 60 ถึง 100 การตัดสินใจต่อวินาที เทียบกับ 10 ครั้งต่อวินาทีที่รายงานสำหรับ Jev พร้อมทั้งบรรยายการเล่นไปด้วย

แนวทางนี้มุ่งเป้าไปที่องค์กรที่ต้องการฟีเจอร์การกลั่นกรองเนื้อหา การถอดความ และการสนทนา โดยไม่ต้องรันโมเดลแยกกันบน GPU แยกกัน ตัวเลขประสิทธิภาพมาจากการทดสอบของผู้พัฒนาเอง และทีมระบุว่าจะเผยแพร่รายละเอียดและข้อมูลเพิ่มเติมในสัปดาห์ต่อ ๆ ไป