Ant Group опублікувала ваги Ling-3.1-flash з контекстом на 1 мільйон токенів

Китайська технологічна компанія Ant Group оприлюднила ваги своєї моделі штучного інтелекту Ling-3.1-flash станом на 16 жовтня 2026 року. Це дає розробникам змогу розгортати модель на інфраструктурі, якою вони самі керують, а не покладатися на хмарний сервіс.

За словами компанії, Ling-3.1-flash містить близько 560 мільярдів параметрів загалом, але для обробки кожного токена використовується лише близько 25 мільярдів. Модель може працювати з контекстним вікном до одного мільйона токенів, що дозволяє обробляти дуже довгі вхідні дані за один прохід.

Створена для програмування та агентів

Ant Group позиціонує модель для програмування, робочих процесів у стилі агентів і професійних завдань, що передбачають роботу з великими документами та викликами зовнішніх інструментів. Модель було представлено раніше, а публікація ваг супроводжується підтримкою розгортання в фреймворках для інференсу, зокрема SGLang і vLLM.

Команда також описала метод розгортання зі змішаною точністю. Ant Group повідомила, що він скорочує пам'ять, необхідну для ваг моделі, приблизно з 534 ГБ до 292 ГБ. У конфігурації з GPU Hopper, яку навела компанія, це вдвічі зменшило вимоги до обладнання: з восьми GPU до чотирьох.

Чому це важливо

Значна різниця між загальною кількістю параметрів і активними вказує на архітектуру типу mixture-of-experts, підхід, покликаний зробити дуже великі моделі дешевшими в експлуатації. Удвічі менша кількість необхідних GPU може зробити самостійне розгортання моделі такого масштабу реалістичним для більшої кількості компаній і дослідницьких груп.

Ant Group, найвідоміша як оператор Alipay, приєдналася до зростаючого списку китайських компаній, що публікують великі моделі з відкритими вагами. Незалежні оцінки знадобляться, щоб показати, як Ling-3.1-flash справляється із завданнями з програмування, роботи з агентами та довгими документами, на які орієнтована компанія.