蚂蚁集团开源Ling-3.1-flash模型权重,支持100万token上下文
蚂蚁集团已发布Ling-3.1-flash的模型权重,这一约5600亿参数的模型,开发者现在可以在自有硬件上运行。
截至2026年10月16日,中国科技公司蚂蚁集团已公开其人工智能模型Ling-3.1-flash的权重。此举使开发者可以将模型部署在自己掌控的基础设施上,而无需依赖托管服务。
该公司表示,Ling-3.1-flash的总参数量约为5600亿,但处理每个token时仅激活约250亿参数。该模型可处理长达100万token的上下文窗口,单次即可输入超长文本。
面向编程与智能体
蚂蚁集团将该模型定位于编程、智能体式工作流以及涉及长文档和外部工具调用的专业工作。此前该模型已经推出,此次权重发布还提供了对SGLang、vLLM等推理框架的部署支持。
研发团队还介绍了一种混合精度部署方法。蚂蚁集团称,该方法可将模型权重所需的内存从约534GB降至292GB。在该公司报告的Hopper GPU配置中,所需硬件数量由8块GPU减半至4块。
意义何在
总参数与激活参数之间的巨大差距表明,该模型采用了混合专家(MoE)架构,这一方法旨在降低超大模型的运行成本。所需GPU数量减半,可能使更多企业和研究团队有能力自行部署此规模的模型。
蚂蚁集团以支付宝运营方而广为人知,它加入了越来越多发布开放权重大模型的中国企业行列。要证明Ling-3.1-flash在该公司重点关注的编程、智能体及长文档任务上的表现,还需要独立第三方评测。
评论
暂无评论。发起讨论或提出问题吧。
相关
Meta发布了Muse Spark Open,这是一款拥有8160亿参数的开放权重AI模型。经与苹果合作优化后,它可在两台M5 Ultra Mac Studio上本地运行。
美国新锐实验室Reflection于2026年10月16日在Hugging Face发布首个模型Beam,这是一款面向编程与智能体任务的5010亿参数开源模型。

