Reflection ra mắt Beam, mô hình mở 501 tỷ tham số theo giấy phép Apache 2.0

Reflection, một phòng thí nghiệm trí tuệ nhân tạo mới có trụ sở tại Hoa Kỳ, đã phát hành mô hình đầu tiên của mình, Beam, trên Hugging Face vào ngày 16 tháng 10 năm 2026. Mô hình chuyên gia hỗn hợp này có tổng cộng 501 tỷ tham số, trong đó khoảng 23 tỷ tham số được kích hoạt cho mỗi token. Beam được cấp phép theo Apache 2.0, cho phép sử dụng thương mại.

Beam chỉ nhận đầu vào dạng văn bản và có cửa sổ ngữ cảnh 1 triệu token. Reflection định vị mô hình này cho kỹ thuật phần mềm và các tác vụ mang tính tác tử, hướng tới các nhóm muốn có một mô hình quy mô tiên phong mà họ có thể vận hành và tùy chỉnh trên phần cứng hoặc đám mây của riêng mình. Bản phát hành bao gồm một bộ khung (harness) mã nguồn mở viết bằng Rust, mà phòng thí nghiệm cho biết giúp mô hình đạt hiệu năng tốt nhất.

Kiến trúc và phần cứng

Mô hình có 52 lớp. Tất cả trừ ba lớp đầu tiên đều sử dụng khối chuyên gia hỗn hợp với 256 chuyên gia, trong đó tám chuyên gia được định tuyến cho mỗi token. Cơ chế định tuyến theo sơ đồ giới hạn nhóm do DeepSeek-V3 giới thiệu, dù Beam loại bỏ chuyên gia dùng chung. Bốn mươi ba lớp sử dụng chú ý cửa sổ trượt trên 512 token trước đó, trong khi chín lớp chú ý đến toàn bộ ngữ cảnh, giúp bộ nhớ đệm chỉ tăng khoảng 36 KiB mỗi token, tức khoảng một phần sáu so với thiết kế toàn cục.

Vì mọi chuyên gia đều nằm trong bộ nhớ, việc phục vụ Beam đòi hỏi dung lượng bộ nhớ của một mô hình 501 tỷ tham số nhưng tốc độ lại gần với mô hình 23 tỷ tham số. Điểm kiểm tra BF16 có dung lượng khoảng 1 TB. Reflection cũng cung cấp trọng số FP8 phù hợp với chip Hopper và Ampere, cùng phiên bản NVFP4 lưu phần lớn tham số ở độ chính xác 4-bit cho GPU NVIDIA Blackwell. Các thư viện transformers, vLLM và SGLang đã hỗ trợ ngay từ khi ra mắt, cùng với hướng dẫn tinh chỉnh có giám sát và học tăng cường.

Kết quả đánh giá

Theo số liệu do Reflection cung cấp, phiên bản BF16 đạt 81,6% trên SWEBench Verified, 80,1% trên Terminal Bench v2.1 và 66,1% trên SWE Bench Pro v1. Các số liệu của công ty cho thấy chênh lệch nhỏ giữa điểm kiểm tra đầy đủ độ chính xác và điểm kiểm tra độ chính xác giảm. Những kết quả này do nhà phát triển công bố và chưa được xác minh độc lập.

Reflection cũng dành 10.000 USD tín dụng Hugging Face Hub cho các dự án cộng đồng xuất sắc được xây dựng trên Beam, từ bản demo đến các phiên bản lượng tử hóa và nghiên cứu đánh giá hiệu năng. Việc ra mắt bổ sung thêm một lựa chọn mở trọng số quy mô lớn cho các tổ chức đang tìm kiếm mô hình tập trung vào lập trình để triển khai trên hạ tầng do họ kiểm soát.