Reflection veröffentlicht Beam: 501-Milliarden-Parameter-Modell unter Apache 2.0

Reflection, ein neues Labor für künstliche Intelligenz mit Sitz in den Vereinigten Staaten, hat sein erstes Modell, Beam, am 16. Oktober 2026 auf Hugging Face veröffentlicht. Das Mixture-of-Experts-Modell umfasst insgesamt 501 Milliarden Parameter, von denen für jeden Token etwa 23 Milliarden aktiv sind. Es steht unter der Apache-2.0-Lizenz, die kommerzielle Nutzung erlaubt.

Beam verarbeitet ausschließlich Text und bietet ein Kontextfenster von 1 Million Token. Reflection positioniert das Modell für Softwareentwicklung und agentenbasierte Arbeitsabläufe. Es richtet sich an Teams, die ein Modell auf Spitzenniveau betreiben und auf eigener Hardware oder in der eigenen Cloud anpassen möchten. Zur Veröffentlichung gehört außerdem ein eigens entwickeltes Open-Source-Harness in Rust, mit dem das Labor nach eigenen Angaben die beste Leistung des Modells erzielt.

Architektur und Hardware

Das Modell hat 52 Schichten. Alle außer den ersten drei nutzen einen Mixture-of-Experts-Block mit 256 Experten, von denen pro Token acht weitergeleitet werden. Das Routing folgt dem gruppenbeschränkten Schema, das DeepSeek-V3 eingeführt hat, wobei Beam allerdings auf den gemeinsamen Experten verzichtet. 43 Schichten verwenden Sliding-Window-Attention über die vorangegangenen 512 Token, während neun Schichten den gesamten Kontext berücksichtigen. Dadurch wächst der Cache nur um etwa 36 KiB pro Token, also etwa ein Sechstel dessen, was ein rein globales Design benötigen würde.

Da alle Experten im Speicher bleiben, benötigt der Betrieb von Beam den Speicherbedarf eines 501-Milliarden-Parameter-Modells, läuft aber in etwa so schnell wie ein 23-Milliarden-Modell. Der BF16-Checkpoint umfasst rund 1 TB. Reflection stellt außerdem FP8-Gewichte für Hopper- und Ampere-Chips sowie eine NVFP4-Version bereit, die die meisten Parameter mit 4-Bit-Genauigkeit für NVIDIA-Blackwell-GPUs speichert. Die Unterstützung für transformers, vLLM und SGLang war zum Start verfügbar, ebenso Anleitungen für überwachtes Feintuning und Reinforcement Learning.

Benchmarks

Laut Zahlen von Reflection erreicht die BF16-Version 81,6 % bei SWEBench Verified, 80,1 % bei Terminal Bench v2.1 und 66,1 % bei SWE Bench Pro v1. Die Angaben des Unternehmens zeigen nur geringe Unterschiede zwischen vollständigen und reduziert genauen Checkpoints. Diese Ergebnisse stammen vom Entwickler und wurden bisher nicht unabhängig überprüft.

Reflection vergibt zudem 10.000 US-Dollar an Guthaben für den Hugging Face Hub an die besten Community-Projekte auf Basis von Beam, von Demos bis hin zu Quantisierungen und Benchmark-Studien. Der Start bringt eine weitere große Option mit offenen Gewichten für Organisationen, die ein auf Programmierung ausgerichtetes Modell auf eigener Infrastruktur betreiben möchten.