AIHere

StepFun发布Step 5 Preview开放权重模型,总参数6000亿

中国AI公司StepFun已公开Step 5 Preview的开放权重。该模型为稀疏模型,总参数6000亿,激活参数270亿,上下文窗口达100万个token。

AIHere 新闻编辑部· 1 分钟阅读🇨🇳 中国

中国人工智能初创公司StepFun已以开放权重形式发布其Step 5 Preview语言模型。截至2026年10月17日,用户可在Hugging Face和ModelScope上下载FP8和BF16两种精度的模型检查点。

该模型采用稀疏混合专家(MoE)架构。模型总参数为6000亿,但处理任一token时仅激活270亿参数。Step 5 Preview还支持100万个token的上下文窗口。

面向长链路智能体打造

StepFun称,该模型是专为长链路智能体任务设计的。此类任务要求AI系统调用工具、跟踪中间结果,并在冗长的多步骤工作流程中保持连贯。大上下文窗口旨在让模型一次性纳入大量文档或较长的交互历史。

在MoE架构中,每个输入只会运行一部分专门化的子网络。这使得总容量极大的模型能够将推理计算量维持在远小于其规模的稠密模型水平。同时提供FP8检查点与BF16并行,也降低了部署所需的内存。

开放模型竞赛的又一新成员

“Preview”标签表明这并非正式版本。现有信息未包含完整版的发布时间表,也没有详细的基准测试对比,因此关于该模型与竞争对手表现的说法,还需要第三方独立评估。

总部位于上海的StepFun是多家致力于开发大语言模型的中国初创公司之一。以开放权重发布大规模前沿模型,已成为中国AI开发者的普遍策略,使研究人员和企业可以选择在自有基础设施上运行和改造这些系统,而不必仅依赖托管API。

#StepFun#开放权重#混合专家模型#AI智能体#中国

评论

请保持尊重。评论会自动审核;垃圾信息、侮辱性言论和个人数据将被删除。问题可能由 AI 作答。

暂无评论。发起讨论或提出问题吧。

相关