AIHere

英伟达将Run:ai GPU编排平台以Apache 2.0协议开源

英伟达已将其用于在Kubernetes上管理GPU的完整Run:ai平台以宽松的Apache 2.0协议开源发布。

AIHere 新闻编辑部· 1 分钟阅读
扁平风格插图:图形处理器的切片被分配到相互连接的服务器模块之间。
图片: Coolcaesar / Wikimedia Commons, CC BY-SA 4.0

据2026年10月19日公布的详情,英伟达已将其整个Run:ai GPU编排平台以开源形式对外提供。该软件采用Apache 2.0协议授权,允许商业使用和修改。Run:ai充当一个中间层,负责决定运行在Kubernetes集群上的AI工作负载如何分配到各个图形处理器上。

此次发布包含哪些内容

此次发布整合了多个核心组件。其中最重要的是KAI Scheduler,它决定作业以何种方式和顺序被放置到GPU上。该版本还附带基于CUDA 13.4的GPU分片功能,这一技术可以让单个图形处理器被多个工作负载分享。

配额管理同样包含在该套件中,管理员可以借此限制各团队和项目的GPU使用量。对于开发者,英伟达提供了基于Kind的本地环境,Kind是一款可在单台机器的Docker容器内运行Kubernetes集群的工具。

其意义何在

英伟达于2024年收购了总部位于以色列的Run:ai,并当时表示有意将该软件开源。此举将原本的商业产品变为可供企业审查、调整并在自有基础设施上运行的代码,且无需支付许可费用。

在训练和部署大型模型时,GPU仍是成本最高、最为稀缺的资源之一。调度、分片和配额控制等功能有助于企业从已拥有的硬件中榨取更多算力。采用宽松许可的方案可能会吸引云服务商以及自建数据中心、希望对共享加速器实现更精细控制的企业。

截至发稿时,尚无关于该项目路线图、社区治理以及是否支持非英伟达硬件的详细信息。该平台能否被广泛采用,将取决于英伟达之外的开发者是否开始为其贡献代码并基于它进行开发。

#英伟达#Run:ai#开源#Kubernetes#GPU#AI基础设施

评论

请保持尊重。评论会自动审核;垃圾信息、侮辱性言论和个人数据将被删除。问题可能由 AI 作答。

暂无评论。发起讨论或提出问题吧。

相关