StepFun phát hành Step 5 Preview dưới dạng mô hình MoE 600B trọng số mở

StepFun, một startup trí tuệ nhân tạo của Trung Quốc, vừa phát hành mô hình ngôn ngữ Step 5 Preview dưới dạng trọng số mở. Tính đến ngày 17 tháng 10 năm 2026, các điểm kiểm tra (checkpoint) với độ chính xác FP8 và BF16 đã có sẵn để tải về trên Hugging Face và ModelScope.

Mô hình sử dụng kiến trúc Mixture-of-Experts (MoE) thưa. Tổng cộng mô hình có 600 tỷ tham số, nhưng với mỗi token chỉ có 27 tỷ tham số được kích hoạt. Step 5 Preview cũng hỗ trợ cửa sổ ngữ cảnh 1 triệu token.

Được xây dựng cho các tác vụ agent dài hạn

StepFun mô tả mô hình này được thiết kế riêng cho các công việc agent dài hạn. Những tác vụ như vậy đòi hỏi hệ thống AI phải gọi công cụ, theo dõi kết quả trung gian và duy trì tính nhất quán qua các quy trình nhiều bước kéo dài. Cửa sổ ngữ cảnh lớn cho phép mô hình giữ đồng thời nhiều tài liệu dài hoặc lịch sử tương tác dài.

Trong kiến trúc MoE, với mỗi đầu vào chỉ một tập con các mạng con chuyên biệt được chạy. Nhờ vậy, một mô hình có dung lượng tổng rất lớn có thể giữ chi phí tính toán suy luận gần với một mô hình dense nhỏ hơn nhiều. Việc phát hành kèm checkpoint FP8 bên cạnh BF16 cũng giúp giảm bộ nhớ cần thiết để vận hành mô hình.

Một cái tên mới trong cuộc đua mô hình mở

Nhãn "Preview" cho thấy đây không phải là bản phát hành chính thức. Thông tin hiện có chưa bao gồm lộ trình cho phiên bản đầy đủ hay so sánh benchmark chi tiết, vì vậy các nhận định về vị thế của mô hình so với đối thủ cần được đánh giá độc lập.

StepFun có trụ sở tại Thượng Hải và là một trong số nhiều startup Trung Quốc đang xây dựng mô hình ngôn ngữ lớn. Việc phát hành các mô hình quy mô tiên tiến với trọng số mở đã trở thành chiến lược phổ biến của các nhà phát triển AI Trung Quốc, cho phép nhà nghiên cứu và doanh nghiệp tự chạy và tùy chỉnh hệ thống trên hạ tầng riêng thay vì chỉ phụ thuộc vào API lưu trữ.