Reflection lance Beam, un modèle ouvert de 501 milliards de paramètres sous licence Apache 2.0

Reflection, un nouveau laboratoire d'intelligence artificielle basé aux États-Unis, a publié son premier modèle, Beam, sur Hugging Face le 16 octobre 2026. Ce modèle à mélange d'experts compte au total 501 milliards de paramètres, dont environ 23 milliards sont actifs pour chaque token. Il est distribué sous licence Apache 2.0, qui autorise l'usage commercial.

Beam n'accepte que du texte en entrée et propose une fenêtre de contexte de 1 million de tokens. Reflection le positionne sur le génie logiciel et les tâches agentiques, à l'intention des équipes qui souhaitent disposer d'un modèle de niveau état de l'art qu'elles peuvent exécuter et personnaliser sur leur propre matériel ou dans le cloud. La version comprend un framework open source dédié, écrit en Rust, que le laboratoire présente comme la meilleure manière d'exploiter les performances du modèle.

Architecture et matériel

Le modèle compte 52 couches. Toutes sauf les trois premières utilisent un bloc à mélange d'experts comprenant 256 experts, dont huit sont sollicités pour chaque token. Le routage reprend le schéma à groupes limités introduit par DeepSeek-V3, mais Beam supprime l'expert partagé. Quarante-trois couches utilisent une attention à fenêtre glissante sur les 512 tokens précédents, tandis que neuf couches portent sur le contexte complet, ce qui limite la croissance du cache à environ 36 KiB par token, soit environ un sixième de ce qu'exigerait une architecture entièrement globale.

Comme tous les experts restent en mémoire, faire tourner Beam demande l'empreinte mémoire d'un modèle de 501 milliards de paramètres, tout en fonctionnant à une vitesse plus proche de celle d'un modèle de 23 milliards. Le point de contrôle en BF16 pèse environ 1 To. Reflection fournit aussi des poids en FP8, adaptés aux puces Hopper et Ampere, ainsi qu'une version NVFP4 qui stocke la plupart des paramètres en précision 4 bits pour les GPU NVIDIA Blackwell. La prise en charge par transformers, vLLM et SGLang était disponible dès le lancement, ainsi que des recettes pour le fine-tuning supervisé et l'apprentissage par renforcement.

Benchmarks

Selon les chiffres fournis par Reflection, la version BF16 obtient 81,6 % sur SWEBench Verified, 80,1 % sur Terminal Bench v2.1 et 66,1 % sur SWE Bench Pro v1. Les résultats de l'entreprise ne montrent que de faibles écarts entre les points de contrôle en pleine précision et en précision réduite. Ces résultats proviennent du développeur et n'ont pas encore été vérifiés de manière indépendante.

Reflection offre également 10 000 dollars de crédits Hugging Face Hub aux meilleurs projets communautaires construits autour de Beam, qu'il s'agisse de démonstrations, de quantifications ou d'études de benchmarks. Ce lancement ajoute une nouvelle option ouverte de grande taille pour les organisations qui recherchent un modèle orienté code, déployable sur une infrastructure qu'elles contrôlent.