아마존이 엔비디아의 가장 강력한 해자를 공격한다, GPU보다 중요한 소프트웨어 전쟁
아마존이 공개한 TorchNeuron은 기존 AI 개발 코드를 자체 Trainium 반도체에서 쉽게 실행하도록 지원한다. 엔비디아가 CUDA를 통해 구축한 소프트웨어 진입장벽에 도전하는 것이다. 그러나 아마존 역시 연간 2,200억달러의 설비투자와 마이너스 현금흐름이라는 숙제를 안고 있다. 두 기업의 경쟁은 결국 AI 연산의 총비용과 투자수익률로 이어진다.
20초 핵심
엔비디아의 진짜 경쟁력은 GPU만이 아니다
2026년 10월 19일, 아마존은 TorchNeuron이라는 오픈소스 소프트웨어를 발표했다. 표면적으로는 개발자 도구 하나가 추가된 사건이다. 하지만 그 배경에는 AI 반도체 시장의 가장 중요한 경쟁구조가 숨어 있다.
엔비디아의 강점은 GPU 성능에만 있지 않다. CUDA라는 병렬컴퓨팅 플랫폼을 중심으로 개발자들이 오랫동안 쌓아온 코드, 라이브러리, 최적화 도구가 함께 작동한다.
개발자 입장에서는 다른 반도체가 저렴하더라도 쉽게 옮기기 어렵다. 소프트웨어를 수정하고, 오류를 해결하고, 실제 성능을 다시 검증해야 하기 때문이다.
이것이 전환비용(Switching Cost)이다. 엔비디아는 반도체뿐 아니라 개발자가 익숙한 환경을 유지할 수 있다는 가치를 판매해 왔다.
아마존은 이 장벽을 낮추려 한다. TorchNeuron은 PyTorch의 표준 확장 기능을 이용해 Trainium을 하나의 연산장치로 인식시킨다. 일반적인 PyTorch 모델이라면 실행 대상을 cuda에서 neuron으로 변경하는 방식으로 이전할 수 있다.
공식 문서에 따르면 TorchNeuron은 즉시 실행 방식인 Eager Mode, torch.compile, 분산학습 기능을 지원한다. Apache 2.0 라이선스의 공개 베타는 10월 20일 시작된다.
소프트웨어 전환이 쉬워지면 무엇이 달라질까
개발자가 두 반도체에서 같은 모델을 쉽게 실행할 수 있다면, 구매 판단에서 다른 요소의 비중이 커진다. GPU 가격, 전력소비, 작업 처리속도, 개발 및 운영 인건비다.
예컨대 어느 칩이 20% 저렴해도 같은 작업에 시간이 두 배 걸리면 경제적 이점이 사라질 수 있다. 반대로 처리성능이 비슷하고 운영비가 낮다면 고객이 이전할 유인은 강해진다.
따라서 핵심 지표는 반도체의 이론적 연산성능이 아니라 실제 AI 작업 하나를 처리하는 데 드는 총비용(Total Cost of Ownership)이다.
이미 비용 개선 사례가 등장했다
아마존은 30곳 이상의 초기 사용기업이 TorchNeuron을 활용하고 있다고 밝혔다. 적용 분야는 음성 AI, 로봇, 자율주행, 월드모델 등이다.
음성 AI 기업 Deepgram의 시험은 주목할 만하다. AWS가 공개한 기술 사례에 따르면, Deepgram의 일부 오프라인 배치 처리 작업에서 Trainium2는 기존에 사용하던 컴퓨팅 환경보다 달러당 처리 오디오량이 11~70% 높았다.
다만 이 결과를 모든 AI 모델의 성능 우위로 확대해서는 안 된다. Deepgram은 사전 구축된 커널을 적용하고 실행 환경까지 최적화했다. 소프트웨어 전환의 편의성과 최종 비용 경쟁력은 구분해야 한다.
엔비디아에 불리하기만 할까
그렇지는 않다.
엔비디아는 CUDA뿐 아니라 GPU 하드웨어, 고속 네트워크, 통합 시스템, 최적화 라이브러리를 함께 제공한다. 일부 PyTorch 코드가 다른 칩에서 실행된다는 사실만으로 이 통합 경쟁력이 사라지지는 않는다.
오히려 AI 시장이 확장될수록 다양한 반도체에 대한 수요가 함께 증가할 수 있다. 엔비디아가 전체 시장에서 차지하는 비중이 낮아져도 시장 규모가 더 빠르게 커지면 매출 성장세를 유지할 여지가 있다.
아마존의 Trainium 역시 엔비디아 GPU를 전면 대체하기보다 AWS 고객에게 선택지를 제공하는 성격이 강하다.
따라서 지금의 질문은 CUDA가 곧 무너지느냐가 아니다. CUDA가 제공하는 편의성과 성능 우위에 고객이 앞으로도 얼마만큼의 추가 비용을 지불할 것인가다.
아마존에는 또 다른 문제가 있다. 투자금을 회수할 수 있는가
AWS는 2026년 2분기에 매출 422억달러, 영업이익 166억달러를 기록했다. 하지만 아마존 전체의 최근 12개월 잉여현금흐름은 전년 동기 플러스 182억달러에서 마이너스 76억달러로 감소했다.
AWS의 분기 영업이익과 전사 연간 현금흐름은 서로 다른 지표다. 다만 사업의 높은 수익성과 대규모 선행투자가 동시에 나타나는 상황은 분명하다.
아마존의 연간 설비투자 계획은 약 2,200억달러다. 이 금액에는 AI뿐 아니라 물류, 로봇, 기타 인프라 투자도 포함된다. 특히 AI 서버는 비싸고 기술 교체주기도 짧을 수 있다. 수요가 충분히 늘지 않으면 투자 회수기간이 길어진다.
바로 여기서 TorchNeuron의 전략적 가치가 커진다. 자체 반도체를 더 많은 고객이 사용하면 AWS는 외부 GPU 의존도를 낮추고 비용구조를 개선할 기회를 얻는다. 그러나 고객에게 제공하는 가격 인하 효과가 큰지, AWS가 확보하는 이익이 큰지는 별도로 확인해야 한다.
기관들은 왜 아마존을 두고 의견이 갈릴까
10월 19일 모건스탠리는 아마존을 인터넷 업종 최선호주로 선정했다. AWS의 성장 잠재력과 Bedrock, 전자상거래 및 로봇 사업의 효율 개선 가능성을 긍정적으로 평가했다.
반면 일부 애널리스트는 막대한 자본지출이 장기간 잉여현금흐름을 압박할 수 있다고 경고한다. 강한 AWS 매출 성장에 동의하는 것과 현재 투자 규모가 적절하다고 판단하는 것은 서로 다른 문제다.
| 투자 관점 | 강세 논리 | 신중론 |
|---|---|---|
| AWS 성장 | AI 수요와 공급 확대 | 높은 기대치에 못 미칠 위험 |
| Trainium | 칩 비용과 전환비용 개선 | 범용 호환성 및 최적화 한계 |
| 설비투자 | 장기 경쟁력과 진입장벽 | 감가상각과 투자비 회수 부담 |
| 현금흐름 | 규모의 경제에 따른 회복 | 추가 투자로 적자 장기화 가능 |
결국 이 경쟁의 승부는 반도체 가격표가 아니라 고객이 지불하는 AI 연산비용, 그리고 공급자가 확보하는 현금흐름에서 결정될 가능성이 높다.
이번 발표를 엔비디아의 위기나 아마존의 승리로 단정하기는 이르다.
아마존은 개발자에게 다른 칩으로 이동할 수 있는 자유를 제공하면서 AWS 안에서 자체 반도체의 활용도를 높이려 한다. 엔비디아는 통합 소프트웨어와 시스템 성능을 통해 고객을 붙잡으려 한다.
흥미로운 점은 두 기업의 성공 조건이 다르다는 사실이다.
엔비디아는 고객이 기존 생태계에 남을 만큼 우수한 성능과 경제성을 제공해야 한다. 아마존은 고객의 전환을 유도할 만큼 Trainium의 총운영비용을 낮추고, 그렇게 유치한 수요에서 투자비 이상의 현금을 회수해야 한다.
소프트웨어의 개방성이 커질수록 반도체 가격 경쟁은 치열해질 수 있다. 그러나 그 경쟁의 최종 승자가 반드시 반도체 제조기업이라고 볼 수는 없다. 더 저렴한 AI 연산을 이용하는 클라우드 고객과 AI 서비스 기업이 가장 큰 수혜자가 될 가능성도 있다.
- 표준 PyTorch 작업의 일부 이전 부담을 크게 낮출 가능성.
- CUDA 전용 코드와 커널, 모든 최적화 기술을 자동으로 대체하는 것은 아님.
- 실제 경쟁력을 판단하려면 호환성, 성능, 개발 및 유지보수 비용의 비교가 필요.
- 장기적으로 일부 고객의 전환비용을 낮추는 경쟁 요인.
- 단기적으로 엔비디아의 수요나 수익성이 훼손됐다는 직접적인 증거는 부족.
- 향후 시장점유율과 이익률의 동반 변화를 확인해야 할 문제.
- 외부 GPU 구매 비용을 줄일 가능성은 존재.
- 칩 설계, 소프트웨어 개발, 생산, 유지보수 비용까지 고려해야 정확한 판단 가능.
- 고객의 사용량이 충분하지 않으면 자체 반도체 투자도 부담.
- 대규모 선행투자의 결과로, 즉각적인 유동성 위기와 동일하지는 않음.
- 다만 설비투자 이후에도 현금 창출력이 개선되지 않으면 주주가치에 부담.
- 신규 투자분의 수익성과 현금 회수기간이 장기적으로 더 중요한 지표.
체크 포인트
인사이트 타임스 편집부
