Reflection, 501B 규모 오픈 모델 Beam을 Apache 2.0으로 공개

미국에 기반을 둔 신생 인공지능 연구소 Reflection이 2026년 10월 16일 Hugging Face에 첫 모델 Beam을 공개했다. 이 혼합 전문가(MoE) 모델은 전체 파라미터가 5,010억 개이며, 토큰마다 약 230억 개가 활성화된다. 상업적 이용을 허용하는 Apache 2.0 라이선스가 적용된다.

Beam은 텍스트 입력만 받으며, 컨텍스트 윈도우는 100만 토큰이다. Reflection은 이 모델을 소프트웨어 엔지니어링과 에이전트 작업용으로 자리매김했으며, 자체 하드웨어나 클라우드에서 직접 구동하고 맞춤화하려는 팀을 주요 대상으로 삼았다. 이번 공개에는 Rust로 작성된 전용 오픈소스 하네스도 포함되어 있으며, 연구소는 이 하네스가 모델의 성능을 가장 잘 끌어낸다고 설명했다.

아키텍처와 하드웨어

모델은 52개 레이어로 구성된다. 첫 3개 레이어를 제외한 나머지는 256개 전문가로 이루어진 혼합 전문가 블록을 사용하며, 토큰마다 그중 8개가 라우팅된다. 라우팅은 DeepSeek-V3가 도입한 그룹 제한 방식을 따르지만, Beam은 공유 전문가는 두지 않는다. 43개 레이어는 직전 512개 토큰에 대한 슬라이딩 윈도우 어텐션을 사용하고, 나머지 9개 레이어는 전체 컨텍스트에 어텐션을 적용한다. 이 구조 덕분에 캐시 증가량은 토큰당 약 36KiB로 억제되며, 모든 레이어를 전역 어텐션으로 구성했을 때 필요한 양의 약 6분의 1 수준이다.

모든 전문가가 메모리에 상주하므로, Beam을 서비스하려면 5,010억 개 모델 수준의 메모리가 필요하지만 실행 속도는 230억 개 모델에 더 가깝다. BF16 체크포인트의 크기는 약 1TB다. Reflection은 Hopper 및 Ampere 칩에 적합한 FP8 가중치와, 대부분의 파라미터를 4비트 정밀도로 저장하는 NVIDIA Blackwell GPU용 NVFP4 버전도 함께 제공한다. transformers, vLLM, SGLang에서의 지원은 출시 시점부터 가능했으며, 지도 미세조정과 강화학습 레시피도 함께 제공된다.

벤치마크

Reflection이 제공한 수치에 따르면 BF16 버전은 SWEBench Verified에서 81.6%, Terminal Bench v2.1에서 80.1%, SWE Bench Pro v1에서 66.1%를 기록했다. 회사의 수치로는 전체 정밀도 체크포인트와 정밀도를 낮춘 체크포인트 사이의 차이가 작은 것으로 나타났다. 다만 이 결과는 개발사가 발표한 것으로, 아직 독립적으로 검증되지 않았다.

Reflection은 또한 Beam을 기반으로 한 우수 커뮤니티 프로젝트에 Hugging Face Hub 크레딧 1만 달러를 지급한다고 밝혔다. 데모부터 양자화 모델, 벤치마크 연구까지 대상에 포함된다. 이번 출시로 자체 인프라에 배포할 수 있는 코딩 특화 모델을 찾는 기관들에게 또 하나의 대형 오픈 웨이트 선택지가 추가됐다.