AWS bringt TorchNeuron heraus, um PyTorch-Apps auf Trainium-Chips zu bringen

Amazon Web Services hat am Montag, dem 19. Oktober 2026, TorchNeuron veröffentlicht, ein Entwicklertool, das KI-Startups dabei helfen soll, ihre Anwendungen auf Trainium zu verlagern, den hauseigenen KI-Chip von Amazon. Der Start zielt direkt auf den Software-Wallgraben, der Nvidia zur Standardhardware für die meisten KI-Workloads gemacht hat.

TorchNeuron baut auf PyTorch auf, dem kostenlosen Open-Source-Framework, mit dem Entwickler KI-Modelle erstellen, trainieren und ausführen. Laut Amazon kann eine in PyTorch geschriebene Anwendung auf Trainium laufen, wenn lediglich eine Zeile der Konfiguration geändert wird, ohne dass Code neu geschrieben werden muss. Da das Tool aus PyTorch selbst hervorgeht, dürften Entwickler, die mit dem Framework bereits vertraut sind, kaum eine Einarbeitungskurve bewältigen müssen.

Angriff auf CUDAs Vormachtstellung

Amazon schätzt, dass rund 85 % der KI-Apps in PyTorch geschrieben sind. Das ursprünglich von Facebook entwickelte Framework wird seit 2022 von der Linux Foundation betreut. Nvidia hat jahrelang dafür gesorgt, dass sein CUDA-Software-Stack nahtlos mit PyTorch zusammenarbeitet, und so seine GPUs faktisch als Standardziel des Frameworks etabliert. Amazon ist nicht das erste Unternehmen, das diese Bindung lockern will: PyTorch-Nutzer können bereits über eine einfache Konfigurationsänderung auf AMD-GPUs oder Apple-Silicon umsteigen.

AWS argumentiert, dass sein Angebot über die einfache Portierbarkeit hinausgeht, weil ein Wechsel zu Trainium auch den Rest der Cloud des Unternehmens erschließt. Das Unternehmen positioniert sich damit für Startups als stärkere Option als sogenannte Neoclouds wie CoreWeave, Nebius und Firmus, von denen viele auf Nvidia-Hardware setzen. Colin Brace, Vizepräsident für Technologie-Software bei AWS Annapurna Labs, der Einheit hinter Amazons eigenen Chips, sagte, die Nutzung eines Chips sowohl für Training als auch für Inferenz verbessere die Gesamtwirtschaftlichkeit, auch wenn AWS nicht den niedrigsten Preis pro Token anbiete.

Als Beispiel nannte Brace das Sprach-KI-Unternehmen Deepgram. Deepgram sei mithilfe der nativen PyTorch-Unterstützung auf Trainium umgestiegen und verarbeite nun bei Produktionsqualität 70 % mehr Audio pro Dollar.

PyTorch auf dem Weg zur Hardware-Neutralität

Amazon kündigte außerdem an, Änderungen an das PyTorch-Hauptprojekt zurückzugeben und mit der Community daran zu arbeiten, Code zu entfernen, der das Framework an bestimmte Chips bindet. Ziel sei ein hardwareunabhängigeres PyTorch für alle Entwickler, nicht nur für Trainium-Kunden.

Ob dies mehr Auswahl und niedrigere Kosten bringt oder lediglich zusätzliche Konfigurationskomplexität schafft, die PyTorch eigentlich verbergen sollte, bleibt abzuwarten. Sollte Amazon das Framework tatsächlich von Nvidia entkoppeln, könnten die Folgen für den GPU-Marktführer weit über gewöhnlichen Chipwettbewerb hinausgehen. „Die eigentliche Geschichte ist, die Abhängigkeit zu beseitigen, die Entwickler bisher davon abhielt, überhaupt echte Wahlmöglichkeiten zu haben“, sagte Brace.