Reflection випустила Beam — відкриту модель на 501B параметрів за ліцензією Apache 2.0

Reflection, нова лабораторія штучного інтелекту зі штаб-квартирою в Сполучених Штатах, 16 жовтня 2026 року випустила свою першу модель Beam на Hugging Face. Модель побудована на архітектурі mixture-of-experts, загальна кількість її параметрів становить 501 мільярд, при цьому для кожного токена активними є близько 23 мільярдів. Модель ліцензована за Apache 2.0, що дозволяє комерційне використання.

Beam приймає лише текстові вхідні дані та має контекстне вікно на 1 мільйон токенів. Reflection позиціонує її для розробки програмного забезпечення та агентних завдань, орієнтуючись на команди, які хочуть мати модель передового рівня, яку можна запускати й налаштовувати на власному обладнанні або в хмарі. Разом із релізом постачається окремий відкритий харнес, написаний мовою Rust, який, за словами лабораторії, забезпечує найкращу продуктивність моделі.

Архітектура та апаратні вимоги

Модель має 52 шари. Усі, крім перших трьох, використовують блок mixture-of-experts зі 256 експертами, і для кожного токена маршрутизуються вісім з них. Маршрутизація відбувається за схемою з обмеженням по групах, запровадженою в DeepSeek-V3, however Beam відмовляється від спільного експерта. Сорок три шари використовують увагу зі ковзним вікном на попередні 512 токенів, а дев'ять звертаються до повного контексту. Це утримує зростання кешу приблизно на рівні 36 KiB на токен, тобто приблизно в шість разів менше, ніж потрібно для конструкції, де всі шари глобальні.

Оскільки всі експерти залишаються в пам'яті, для роботи Beam потрібен обсяг пам'яті моделі на 501B, тоді як швидкість наближається до моделі на 23B. Контрольна точка BF16 важить приблизно 1 ТБ. Reflection також пропонує ваги FP8, придатні для чипів Hopper та Ampere, і версію NVFP4, яка зберігає більшість параметрів у 4-бітній точності для GPU NVIDIA Blackwell. Підтримка transformers, vLLM і SGLang була доступна від самого запуску, разом із рецептами для контрольованого донавчання та навчання з підкріпленням.

Бенчмарки

За даними, наданими Reflection, версія BF16 набирає 81,6% на SWEBench Verified, 80,1% на Terminal Bench v2.1 і 66,1% на SWE Bench Pro v1. За цифрами компанії, різниця між повною та зниженою точністю контрольних точок невелика. Ці результати наведено самим розробником, і їх ще не перевіряли незалежні сторони.

Reflection також пропонує кредити на Hugging Face Hub на суму 10 000 доларів найкращим проєктам спільноти, створеним на основі Beam, — від демонстрацій до квантизацій і досліджень бенчмарків. Цей запуск додає ще один великий варіант відкритих ваг для організацій, які шукають модель для програмування, яку можна розгорнути на власній інфраструктурі.