StepFun випустила Step 5 Preview з відкритими вагами: MoE-модель на 600 млрд параметрів

Китайський стартап у сфері штучного інтелекту StepFun опублікував свою мовну модель Step 5 Preview з відкритими вагами. Станом на 17 жовтня 2026 року чекпоінти у точності FP8 і BF16 доступні для завантаження на Hugging Face та ModelScope.

Модель побудована на розрідженій архітектурі Mixture-of-Experts (MoE). Загалом вона містить 600 мільярдів параметрів, але для кожного токена активуються лише 27 мільярдів. Step 5 Preview також підтримує контекстне вікно у 1 мільйон токенів.

Створена для довгих агентних завдань

StepFun описує модель як призначену для довгострокових агентних завдань. Такі завдання вимагають від системи штучного інтелекту викликати інструменти, відстежувати проміжні результати та зберігати узгодженість у довгих багатокрокових процесах. Великий контекстний запас має дозволити моделі одночасно тримати в полі зору обширні документи або довгі історії взаємодій.

В архітектурі MoE для кожного вхідного запиту працює лише частина спеціалізованих підмереж. Це дає змогу моделі з дуже великою загальною ємністю тримати обчислювальні витрати на інференс ближчими до витрат значно меншої щільної моделі. Постачання контрольної точки FP8 разом із BF16 також зменшує обсяг пам'яті, необхідний для її обслуговування.

Ще один учасник перегонів відкритих моделей

Позначка «Preview» свідчить, що це не остаточна версія. Наявна інформація не містить графіка випуску повної версії чи детальних порівняльних тестів, тож твердження про те, як модель стоїть порівняно з конкурентами, потребуватимуть незалежної перевірки.

StepFun, яка базується в Шанхаї, є однією з кількох китайських компаній-стартапів, що створюють великі мовні моделі. Випуск моделей масштабу передового рівня з відкритими вагами став поширеною стратегією китайських розробників ШІ: це дає дослідникам і компаніям змогу запускати та адаптувати системи на власній інфраструктурі, а не покладатися лише на хмарні API.