AWS, PyTorch 앱을 Trainium 칩으로 옮기는 TorchNeuron 출시

아마존 웹 서비스는 2026년 10월 19일 월요일 TorchNeuron을 출시했다. 이는 AI 스타트업이 자사 자체 개발 AI 칩인 Trainium으로 애플리케이션을 옮길 수 있도록 돕기 위해 설계된 개발자 도구다. 이번 출시는 대부분의 AI 워크로드에서 기본 하드웨어 자리를 지켜온 엔비디아의 소프트웨어 장벽을 정면으로 겨냥한 것이다.

TorchNeuron은 개발자들이 AI 모델을 구축하고 학습시키며 실행할 때 사용하는 무료 오픈소스 프레임워크 PyTorch를 기반으로 한다. 아마존에 따르면 PyTorch로 작성된 애플리케이션은 코드를 전혀 다시 쓰지 않고 설정 한 줄만 바꾸면 Trainium에서 실행할 수 있다. 이 도구는 PyTorch 자체를 기반으로 만들어졌기 때문에 이미 이 프레임워크에 익숙한 개발자라면 새로 배워야 할 부분이 거의 없다고 한다.

CUDA의 영향력에 도전하다

아마존은 AI 앱의 약 85%가 PyTorch로 작성된다고 추산한다. 페이스북이 처음 만든 이 프레임워크는 2022년부터 리눅스 재단이 관리하고 있다. 엔비디아는 수년간 자사 CUDA 소프트웨어 스택이 PyTorch와 매끄럽게 작동하도록 공을 들여, 사실상 자사 GPU를 이 프레임워크의 기본 대상으로 자리 잡게 했다. 아마존이 이 연결고리를 느슨하게 만들려는 첫 시도는 아니다. PyTorch 사용자는 이미 간단한 설정 변경만으로 AMD GPU나 애플 실리콘으로 전환할 수 있다.

AWS는 자사의 제안이 단순한 이식 편의성을 넘어선다고 주장한다. Trainium으로 옮기면 AWS 클라우드의 나머지 서비스도 함께 이용할 수 있기 때문이다. 회사는 이를 CoreWeave, Nebius, Firmus 등 상당수가 엔비디아 하드웨어에 의존하는 이른바 '네오클라우드'보다 스타트업에게 더 나은 선택지라고 내세우고 있다. 아마존의 자체 칩을 개발하는 부서인 AWS Annapurna Labs의 기술 소프트웨어 담당 부사장 콜린 브레이스는 하나의 칩으로 학습과 추론을 모두 처리하면 전반적인 경제성이 향상된다고 말했다. 토큰당 가격이 가장 낮은 것은 아니더라도 그렇다는 것이다.

브레이스는 음성 AI 기업 Deepgram을 사례로 들었다. 그는 Deepgram이 네이티브 PyTorch 지원을 활용해 Trainium으로 옮겨갔으며, 현재 상용 수준의 정확도를 유지하면서 달러당 처리하는 오디오 양이 70% 늘었다고 설명했다.

PyTorch의 하드웨어 중립성을 넓히다

아마존은 또한 PyTorch 프로젝트의 메인 저장소에 변경 사항을 기여하고, 커뮤니티와 협력해 프레임워크를 특정 칩에 묶어 두는 코드를 걷어내겠다고 밝혔다. 목표는 Trainium 고객만이 아니라 모든 개발자를 위해 하드웨어 종속성이 덜한 PyTorch를 만드는 것이라고 했다.

이것이 더 많은 선택지와 낮은 비용을 가져올지, 아니면 PyTorch가 숨기려던 설정의 복잡성만 늘릴지는 지켜봐야 한다. 아마존이 프레임워크를 엔비디아로부터 실제로 분리하는 데 성공한다면, GPU 선두 기업에 미치는 영향은 일반적인 칩 경쟁을 훨씬 넘어설 수 있다. 브레이스는 "진짜 이야기는 개발자가 실질적인 선택권을 갖지 못하게 했던 종속 구조를 없애는 것"이라고 말했다.