아마존은 엔비디아의 GPU보다 먼저 CUDA의 경쟁우위를 무너뜨리려 한다

엔비디아의 경쟁력은 GPU 안에만 있지 않다

AI 개발자가 엔비디아 GPU를 사용하는 이유는 단순히 칩이 빠르기 때문만은 아니다.

CUDA는 GPU에서 연산을 실행하는 소프트웨어 플랫폼이다. 개발자는 여기에 맞춰 AI 모델을 최적화하고, 검증하고, 운영한다. 시간이 흐를수록 소프트웨어와 전문 인력이 축적된다.

그 결과 경쟁사 칩이 더 저렴하더라도 쉽게 교체하기 어렵다. 새로운 장비에서 기존 모델이 제대로 작동하는지 확인하고, 성능을 다시 최적화해야 하기 때문이다.

엔비디아의 강점은 높은 칩 성능뿐 아니라 다른 칩으로 이동하기 어렵게 만드는 전환비용(Switching Cost)에 있다.

아마존은 GPU보다 전환비용을 먼저 공격한다

아마존이 10월 19일 발표하고 20일 공개 베타를 시작한 TorchNeuron은 PyTorch를 AWS Trainium에서 직접 실행하도록 돕는 오픈소스 소프트웨어다.

기존에는 엔비디아 GPU에서 실행하던 모델을 다른 칩으로 옮기기 위해 상당한 개발 작업이 필요했다. TorchNeuron은 표준 PyTorch 인터페이스를 활용해 이러한 작업을 줄인다.

AWS가 제시한 대표적인 변경은 실행 장치를 지정하는 코드다.

TorchNeuron은 PyTorch의 즉시 실행 방식인 Eager Mode와 torch.compile을 지원한다. Trainium2와 Trainium3 인스턴스에서 이용할 수 있으며 Apache 2.0 라이선스로 공개됐다.

AI 칩 경쟁의 결정권을 개발자에게 돌려줄 수 있을까?

아마존은 AI 연구자와 개발자의 약 85%가 PyTorch를 이용한다고 설명한다. 또한 로봇, 음성 AI, 월드모델 등에서 30곳 이상의 초기 고객이 TorchNeuron을 사용한다고 밝혔다. 이 수치는 아마존의 발표이며, 독립적으로 검증된 전체 시장점유율이나 대규모 상용 전환 실적은 아니다.

더 중요한 변화는 고객의 협상력이다.

기존 코드를 여러 종류의 AI 칩에서 실행하기 쉬워지면 기업은 하드웨어를 비교할 때 칩 가격뿐 아니라 처리량, 전력, 개발 인건비를 함께 따질 수 있다.

아마존에는 Trainium 판매 확대와 AWS 인프라 운영원가 절감의 기회다. 고객에게는 엔비디아 GPU 외에 경제성 있는 대안을 검토할 기회가 생긴다.

그러나 엔비디아의 CUDA 전용 커널, 고도로 최적화된 라이브러리, 네트워킹과 대규모 클러스터 운영 역량까지 한 번에 대체하는 것은 별개의 문제다.

결론

AI 칩 시장에서 지금까지 중요한 질문은 어느 회사가 더 빠른 칩을 만드는가였다.

아마존은 여기에 다른 질문을 추가했다.

개발자가 기존 AI 모델을 다시 만들지 않고도 다른 칩으로 옮길 수 있다면, 엔비디아는 지금과 같은 가격 경쟁력을 유지할 수 있을까?

그 답이 확인되기까지는 시간이 필요하다. 하지만 AI 반도체의 경쟁이 하드웨어 성능에서 소프트웨어 전환비용과 실제 운영 경제성으로 넓어지고 있다는 사실은 분명해지고 있다.