AIHere

Nvidia maakt Run:ai GPU-orkestratieplatform open source onder Apache 2.0

Nvidia heeft zijn volledige Run:ai-platform voor het beheren van GPU's op Kubernetes als open source vrijgegeven onder de vrijgevige Apache 2.0-licentie.

AIHere-nieuwsredactie· 1 min leestijd
Een platte illustratie van stukken grafische processors die worden verdeeld over verbonden serverblokken.
Foto: Coolcaesar / Wikimedia Commons, CC BY-SA 4.0

Nvidia heeft zijn volledige Run:ai GPU-orkestratieplatform beschikbaar gesteld als open source, blijkt uit details die op 19 oktober 2026 zijn gepubliceerd. De software valt onder de Apache 2.0-licentie, die commercieel gebruik en aanpassingen toestaat. Run:ai fungeert als een laag die bepaalt hoe AI-workloads die op Kubernetes-clusters draaien over grafische processors worden verdeeld.

Wat de release omvat

De release bevat verschillende kerncomponenten. Het belangrijkste daarvan is KAI Scheduler, dat bepaalt hoe en in welke volgorde taken op GPU's worden geplaatst. Daarnaast bevat het GPU-fractionering op basis van CUDA 13.4, een techniek waarmee één grafische processor kan worden verdeeld over meerdere workloads.

Ook quotabeheer maakt deel uit van het pakket, waarmee beheerders het GPU-verbruik over teams en projecten heen kunnen begrenzen. Voor ontwikkelaars biedt Nvidia een lokale omgeving op basis van Kind, een tool die Kubernetes-clusters binnen Docker-containers op één machine laat draaien.

Waarom het belangrijk is

Nvidia heeft het Israëlische Run:ai in 2024 overgenomen en gaf toen al aan de software open source te willen maken. Met deze stap wordt wat een commercieel product was, code die organisaties kunnen inspecteren, aanpassen en op hun eigen infrastructuur kunnen draaien zonder licentiekosten.

GPU's behoren nog steeds tot de duurste en schaarste middelen voor het trainen en draaien van grote modellen. Planning, fractionering en quotabeheer helpen bedrijven meer werk uit hardware te halen die ze al bezitten. Een permissief gelicentieerde optie kan aantrekkelijk zijn voor cloudproviders en ondernemingen die eigen datacenters draaien en fijnmaziger controle over gedeelde versnellers willen.

Details over de roadmap van het project, de gemeenschapsgovernance en eventuele ondersteuning voor niet-Nvidia-hardware waren op het moment van schrijven niet beschikbaar. Hoe breed het platform wordt overgenomen, hangt af van de vraag of ontwikkelaars buiten Nvidia er gaan bijdragen en erop gaan voortbouwen.

#Nvidia#Run:ai#open source#Kubernetes#GPU#AI-infrastructuur

Reacties

Wees respectvol. Reacties worden automatisch gecontroleerd; spam, beledigingen en persoonsgegevens worden verwijderd. Vragen kunnen door AI worden beantwoord.

Nog geen reacties. Start de discussie of stel een vraag.

Gerelateerd