Nvidia macht GPU-Orchestrierungsplattform Run:ai unter Apache 2.0 quelloffen

Nvidia hat seine gesamte GPU-Orchestrierungsplattform Run:ai als Open Source verfügbar gemacht, wie aus Details hervorgeht, die am 19. Oktober 2026 veröffentlicht wurden. Die Software steht unter der Apache-2.0-Lizenz, die kommerzielle Nutzung und Modifikation erlaubt. Run:ai fungiert als Schicht, die festlegt, wie KI-Workloads in Kubernetes-Clustern auf Grafikprozessoren verteilt werden.

Was die Veröffentlichung umfasst

Das Paket bündelt mehrere Kernkomponenten. Allen voran steht der KAI Scheduler, der bestimmt, wie und in welcher Reihenfolge Jobs auf GPUs platziert werden. Außerdem enthält es GPU-Fractioning auf Basis von CUDA 13.4, eine Technik, mit der sich ein einzelner Grafikprozessor auf mehrere Workloads aufteilen lässt.

Auch die Kontingentverwaltung gehört zum Paket und ermöglicht es Administratoren, den GPU-Verbrauch über Teams und Projekte hinweg zu begrenzen. Für Entwickler stellt Nvidia zudem eine lokale Umgebung auf Basis von Kind bereit, einem Werkzeug, das Kubernetes-Cluster in Docker-Containern auf einem einzelnen Rechner betreibt.

Warum das wichtig ist

Nvidia hatte das in Israel ansässige Unternehmen Run:ai im Jahr 2024 übernommen und damals angekündigt, die Software als Open Source veröffentlichen zu wollen. Der Schritt macht aus einem bisherigen kommerziellen Produkt Code, den Organisationen prüfen, anpassen und ohne Lizenzgebühren auf ihrer eigenen Infrastruktur betreiben können.

GPUs gehören weiterhin zu den teuersten und knappsten Ressourcen für das Training und den Betrieb großer Modelle. Scheduling, Fractioning und Kontingentkontrollen helfen Unternehmen, mehr Leistung aus der bereits vorhandenen Hardware herauszuholen. Eine freizügig lizenzierte Option könnte Cloud-Anbieter und Unternehmen mit eigenen Rechenzentren ansprechen, die eine feinere Steuerung über gemeinsam genutzte Beschleuniger wünschen.

Details zur Roadmap des Projekts, zur Governance der Community und zu möglicher Unterstützung für Hardware anderer Hersteller als Nvidia lagen zum Zeitpunkt der Berichterstattung nicht vor. Wie breit die Plattform angenommen wird, hängt davon ab, ob Entwickler außerhalb von Nvidia damit beginnen, sich daran zu beteiligen und darauf aufzubauen.