AIHere

蚂蚁集团开源Ling-3.1-flash模型权重,支持100万token上下文

蚂蚁集团已发布Ling-3.1-flash的模型权重,这一约5600亿参数的模型,开发者现在可以在自有硬件上运行。

AIHere 新闻编辑部· 1 分钟阅读🇨🇳 中国

截至2026年10月16日,中国科技公司蚂蚁集团已公开其人工智能模型Ling-3.1-flash的权重。此举使开发者可以将模型部署在自己掌控的基础设施上,而无需依赖托管服务。

该公司表示,Ling-3.1-flash的总参数量约为5600亿,但处理每个token时仅激活约250亿参数。该模型可处理长达100万token的上下文窗口,单次即可输入超长文本。

面向编程与智能体

蚂蚁集团将该模型定位于编程、智能体式工作流以及涉及长文档和外部工具调用的专业工作。此前该模型已经推出,此次权重发布还提供了对SGLang、vLLM等推理框架的部署支持。

研发团队还介绍了一种混合精度部署方法。蚂蚁集团称,该方法可将模型权重所需的内存从约534GB降至292GB。在该公司报告的Hopper GPU配置中,所需硬件数量由8块GPU减半至4块。

意义何在

总参数与激活参数之间的巨大差距表明,该模型采用了混合专家(MoE)架构,这一方法旨在降低超大模型的运行成本。所需GPU数量减半,可能使更多企业和研究团队有能力自行部署此规模的模型。

蚂蚁集团以支付宝运营方而广为人知,它加入了越来越多发布开放权重大模型的中国企业行列。要证明Ling-3.1-flash在该公司重点关注的编程、智能体及长文档任务上的表现,还需要独立第三方评测。

#蚂蚁集团#Ling-3.1-flash#开放权重#大语言模型#中国AI

评论

请保持尊重。评论会自动审核;垃圾信息、侮辱性言论和个人数据将被删除。问题可能由 AI 作答。

暂无评论。发起讨论或提出问题吧。

相关