지능은 2달러로 내려가는데, 메모리는 87% 마진을 찍었다

AI의 경제학이 뒤집히고 있다. 프런티어급 모델의 API 가격은 100만 입력 토큰당 2달러로 수렴하는데, 이를 돌리는 메모리와 컨텍스트 저장장치는 오히려 병목이 되고 있다. 투자자가 봐야 할 것은 ‘AI가 얼마나 똑똑해졌나’보다 ‘AI 사용량이 늘수록 무엇이 더 희소해지는가’다.

20초 핵심

1
지능 가격의 압축. Gemini 4 Argon, GPT-6 Sol, Claude Sonnet 5.5의 표준 또는 도입 가격이 모두 100만 입력 토큰당 2달러, 출력 10달러로 수렴. 다만 GPT-6 Sol은 OpenAI의 절대 최상위 Astra보다 한 단계 아래라는 점은 구분할 필요.
2
메모리는 반대 방향. Micron의 FY4Q26 비GAAP 매출총이익률은 87.0%. 다음 분기 매출 가이던스는 615억달러 ± 15억달러. 장기공급계약 관련 고객 금융약정은 320억달러, 잔여 수행의무는 약 1,500억달러까지 확대.
3
투자 기준의 이동. 토큰당 가격만으로는 AI 경제성을 설명하기 어려운 단계. 에이전트가 더 긴 컨텍스트를 더 오래 유지할수록 실제 병목은 HBM, 서버 DRAM, KV 캐시용 SSD, 전력과 네트워크로 이동할 가능성.

프런티어 AI의 ‘2달러 수렴’

9월 22일 OpenAI는 GPT-6 Sol을 100만 입력 토큰당 2달러, 출력 10달러에 출시했다. 9월 28일 Anthropic의 Claude Sonnet 5.5도 같은 가격을 제시했고, 9월 30일 Google의 Gemini 4 Argon 역시 도입 가격을 2달러와 10달러로 맞췄다.

중요한 것은 가격만 내려간 것이 아니라는 점이다. Google에 따르면 Argon은 장기 소프트웨어 엔지니어링 평가 DeepSWE v1.1에서 77.9%, Zapier AutomationBench에서 51.3%로 1위를 기록했고 최대 출력 한도를 100만 토큰으로 확대했다. Anthropic은 Sonnet 5.5가 이전 세대와 같은 토큰 단가이면서도 동일 과업에 필요한 토큰을 줄여 작업당 비용을 최대 30% 낮춘다고 설명한다.

AI 가격 경쟁의 단위가 ‘토큰당 얼마인가’에서 ‘업무 한 건을 끝내는 데 얼마가 드는가’로 이동하고 있다.

Epoch AI가 같은 수준의 성능을 얻는 비용을 추적한 결과, 2023년 이후 하락 속도는 분기당 약 47%, 연율로는 약 13배였다. 지능의 단가가 빠르게 떨어지는 방향 자체는 이제 일시적 프로모션이라기보다 구조적 추세에 가깝다.

그런데 같은 날, Micron은 87%의 총마진을 기록했다

소프트웨어 레이어의 가격은 내려가지만 물리적 인프라는 정반대다. Micron의 2026 회계연도 4분기 매출은 542억2,900만달러로 전년 동기 113억1,500만달러의 약 4.8배. 비GAAP EPS는 33.42달러, 비GAAP 매출총이익률은 87.0%였다.

$54.23BFY4Q26 매출, 전년 동기 대비 약 +379%
87.0%
FY4Q26 비GAAP 매출총이익률
$61.5BFY1Q27 매출 가이던스 중앙값

더 눈에 띄는 숫자는 계약이다. Reuters에 따르면 장기공급계약에 대한 고객의 금융약정은 6월 220억달러에서 320억달러로 늘었고, 대부분 현금 예치금 형태다. Micron의 잔여 수행의무는 약 1,500억달러로 증가했다. 회사는 2027~2028 회계연도의 메모리와 스토리지 수급이 2026년보다 더 타이트할 것으로 보고 있으며, 2027년 HBM 생산량의 대부분에 대해 이미 계약을 확보했다고 밝혔다.

다만 이 숫자를 곧바로 “메모리 사이클이 사라졌다”로 번역하면 위험하다. 장기계약은 매출 가시성을 높이고 공급자의 협상력을 강화하지만, 고객의 CapEx 조정이나 기술 전환, 공급 증설에 따른 다운사이클 가능성까지 제거하지는 못한다.

제번스의 역설 : AI가 싸질수록 인프라는 더 많이 필요할 수 있다

핵심 메커니즘은 단순하다. 지능이 싸지면 같은 예산으로 더 많은 호출을 할 수 있다. 챗봇 한 번의 답변이 아니라, 에이전트가 계획하고 검색하고 코드를 실행하고 실패를 수정하는 루프를 반복하면 과업당 토큰 소비량은 크게 늘어난다.

따라서 토큰 가격이 절반으로 내려가도 사용량이 두 배 이상 늘면 전체 인프라 수요는 줄지 않는다. 효율 개선이 오히려 총소비를 늘리는 제번스의 역설이 AI에서도 나타날 수 있는 이유다. 다만 이것은 경제적 가설이지 자동으로 성립하는 법칙은 아니다. AI 사용량 증가가 가격 하락 속도를 얼마나 앞지르는지가 실제 결과를 결정한다.

다음 병목은 HBM만이 아니다 : KV 캐시와 SSD

긴 컨텍스트와 멀티턴 에이전트가 늘면 GPU는 계산만 하는 것이 아니라 이전 문맥을 계속 보존해야 한다. 이때 쓰이는 것이 KV 캐시다. KV 캐시 크기는 모델 구조, 정밀도, KV 헤드 수에 따라 크게 달라지므로 “100만 토큰은 항상 320GB”라고 말할 수는 없다. 다만 연구 사례에서 Llama 3 70B의 100만 토큰 컨텍스트는 약 320GB의 KV 캐시를 필요로 하는 것으로 계산됐다. 단일 H100 80GB를 크게 넘어서는 크기다.

이 문제 때문에 컨텍스트를 HBM에만 붙잡아 두기보다 CPU DRAM과 플래시 스토리지로 계층화하는 구조가 부상하고 있다. NVIDIA는 BlueField-4 기반 CMX를 GPU 메모리를 확장하는 공유 컨텍스트 계층으로 제시하며, 기존 스토리지 대비 최대 5배의 처리량과 전력 효율 개선을 주장한다.

흥미로운 것은 Micron의 실적 자료다. 회사는 PCIe Gen 5 7600 SSD와 Gen 6 9650 SSD가 이미 KV-cache 애플리케이션용으로 주요 고객에게 출하되고 있다고 밝혔다. ‘AI 메모리’의 투자 지도가 HBM에서 서버 DRAM과 엔터프라이즈 SSD까지 넓어질 수 있음을 보여주는 실제 상업화 신호다.

가치사슬에서 누가 유리한가

계층긍정 요인핵심 리스크
메모리, 스토리지HBM 부족, 장기계약 확대, KV 캐시용 서버 DRAM, SSD 수요가격 급등이 고객 최적화와 증설을 촉진할 가능성
클라우드, 빅테크저렴한 모델 가격이 사용량 확대와 클라우드 트래픽 증가를 유도메모리, 전력, 네트워크 비용 상승으로 추론 마진 압박
버티컬 AI원재료인 모델 비용 하락, 업무 결과 기준의 고부가가치 과금 가능파운데이션 모델의 기능 확장과 번들링 위험
범용 모델 사업자규모의 경제와 사용량 확대가격 경쟁 심화, 차별화가 약하면 토큰당 마진 압축
INSIGHT TIMES VIEW

이번 변화의 핵심은 “AI 모델 기업은 나쁘고 메모리 기업은 좋다”가 아니다. 가치가 이동하는 지점을 봐야 한다.

모델 자체의 지능은 빠르게 범용화되고 가격이 떨어진다. 반면 사용량이 늘수록 반드시 더 필요해지는 물리적 자원과, 그 지능을 실제 기업 업무의 성과로 바꾸는 워크플로우는 상대적으로 희소해질 수 있다.

따라서 투자자는 ‘AI를 사느냐 마느냐’보다 병목의 가격결정력이 얼마나 오래 지속되는지를 봐야 한다. Micron의 87% 총마진과 320억달러 고객 약정은 강력한 신호지만, 영구적인 정상상태라고 단정할 수는 없다.

실제로 강한 실적 발표 뒤에도 주가 반응이 제한적이었던 것은 시장이 이미 높은 실적보다 그 지속기간을 묻고 있다는 뜻에 가깝다.

또 하나의 제한조건은 전력이다. Reuters에 따르면 Oracle은 뉴멕시코의 Jupiter 데이터센터가 전력 확보 지연을 겪자 불가항력 조항을 발동했다.

칩과 메모리가 있어도 발전소와 송전망이 늦으면 설치된 자본은 수익을 내지 못한다. AI의 다음 단계는 모델 경쟁만이 아니라 메모리, 스토리지, 전력망을 함께 최적화하는 산업 경쟁이다.

프런티어 AI 가격이 모두 2달러라는 뜻인가?
  • 아니다. 2달러는 현재 주요 고성능 실용 모델의 입력 가격이 수렴한 수준이다. OpenAI의 최상위 GPT-6 Astra는 이보다 비싸다. 따라서 “최고 지능 전체가 2달러”가 아니라 “프런티어급 실용 모델의 가격 기준선이 2달러까지 내려왔다”가 더 정확하다.
메모리 가격이 계속 오르면 메모리 기업에는 무조건 좋은가?
  • 단기적으로는 매출과 마진에 유리하다. 그러나 가격이 지나치게 높아지면 고객이 모델 경량화, 캐시 최적화, HBM 사용량 절감, 자체 가속기 채택을 서두를 수 있다. 장기적으로는 적정한 부족이 공급자에게 가장 유리한 구조다.
KV 캐시 때문에 NAND가 HBM만큼 중요해진다고 볼 수 있나?
  • 아직 그렇게 단정하기는 이르다. HBM은 실시간 연산에 필수이고 SSD는 더 느린 계층이다. 다만 장기 컨텍스트를 재사용하고 HBM 용량을 보완하는 컨텍스트 저장계층이 상업화되면서 엔터프라이즈 SSD의 AI 노출도가 높아지는 것은 확인할 수 있다.
이 논지가 틀릴 수 있는 가장 중요한 조건은?
  • AI 사용량 증가가 모델 단가 하락과 효율 개선을 따라가지 못하는 경우다. 여기에 데이터센터 전력 지연이나 기업 AI의 ROI 부진까지 겹치면 하드웨어 수요가 예상보다 빨리 둔화될 수 있다.

체크 포인트

Micron 비GAAP 총마진FY1Q27 가이던스는 약 86.25%. 80%대 중후반이 지속되면 공급자 가격결정력 논리가 강화되고, 빠르게 하락하면 피크아웃 논리가 힘을 얻는 지표. 장기계약 금융약정과 RPO 현재 고객 금융약정 320억달러, RPO 약 1,500억달러. 증가세가 유지되는지가 수요 가시성의 핵심. HBM 외 SSD 매출 KV 캐시용 엔터프라이즈 SSD 출하가 실제 매출 비중 확대로 이어지는지 확인. HBM에서 스토리지로 수혜가 확산되는지를 가르는 지표. AI 작업당 비용 토큰 단가보다 에이전트의 과업 성공률, 총토큰 사용량, 캐시 적중률을 함께 관찰. 가격 하락보다 사용량 증가가 더 빠른지가 핵심. 전력 확보와 데이터센터 가동 지연 GW급 프로젝트의 전력 인입 일정, 불가항력 조항, 완공 지연 여부. 하드웨어 주문이 실제 가동 수요로 연결되는 속도를 결정.
AI 값은 내려가는데, 그 AI를 돌리는 메모리는 지금 아주 비싸게 팔리고 있다.

인사이트 타임스 편집부

주제로 더 읽기

이 기사의 주제부터, 요즘 많이 읽히는 주제까지

투자 심리와 의사결정, 그리고 투자 책 이야기

엔비디아

이 기사의 주제기사 149편모두 보기 →

젠슨 황 없는 엔비디아, 1,090억 달러 실적보다 중요한 세 가지 질문

11월 12일 엔비디아는 공동창업자 젠슨 황의 CEO 및 이사회 사임을 발표했다. SEC 공시에 따르면 이사회가 사임을 수리한 날은 11월 11일이다.

투자SO WHAT

젠슨 황이 떠나자, 왜 엔비디아보다 더 불안한 회사들이 생겼을까?

2026년 11월 12일, AI 산업의 상징과도 같았던 젠슨 황이 엔비디아 CEO 자리에서 물러났다는 발표가 나왔다. 1993년 창업 이후 33년 동안 회사를 이끌었던 인물의 퇴장. 충격은 엔비디아 주가에만 머물지 않았다.

투자WHY

말로는 겁을 냈지만, 돈으로는 주식을 샀다 - 이번 주 월가 뷰가 본 두 얼굴의 시장

이번 주 월가에서는 투자자의 말과 돈이 서로 다른 쪽을 가리켰다. 엔비디아가 크게 빠졌는데도 지수는 조금만 내려왔다. 장기투자자가 이 한 주에서 무엇을 확인할 수 있는지 네 가지로 정리했다.

투자EXPLAIN

기술주 급락, 강세장은 끝났을까? 월가의 4년 차트가 말하는 진실

4년간 다섯 번의 두 자릿수 조정에도 살아남은 상승 추세. 그러나 이번에는 AI 기업의 부채와 현금흐름이 새로운 변수로 떠올랐다.

투자WHAT NEXT

젠슨 황의 퇴장, 엔비디아가 잃은 것과 미국 AI 패권이 직면한 딜레마

개인 스캔들로 시작된 사임이 드러낸 것은 한 기업의 경영 공백만이 아니다. 중국을 통제하면서도 미국 기술의 영향력을 유지해야 하는 정책의 모순, 그리고 AI 산업의 실행 속도가 탁월한 한 사람에게 의존해온 취약성이다.

투자SO WHAT

유리 외벽에 ANTHROPIC 기업 로고가 보이는 도심 건물의 보도사진 스타일 이미지

앤트로픽 IPO 1.4조 달러의 진짜 의미, AI 성장에 필요한 돈은 누가 부담할까?

앤트로픽의 IPO는 단순히 거대한 AI 기업 하나가 증시에 입성하는 사건이 아니다. AI 산업이 지금까지의 사모 투자와 빅테크의 자금 지원을 넘어, 공개 주식시장에서 대규모 성장 자금을 조달하는 단계로 진입한다는 의미가 있다.

테크REALLY?

머스크가 내다본 AI 인프라의 다음 단계

네오클라우드의 위기는 왜 스페이스X와 테슬라의 기회가 될 수 있을까

테크WHAT NEXT

AI 에이전트

이 기사의 주제기사 89편모두 보기 →

사람이 한 줄 시키면 여러 단계를 스스로 밟아 일을 끝내는 AI.

클로드 듀엣의 등장, AI가 이제 먼저 말을 걸기 시작했다

AI의 경쟁력이 답변의 정확도에서 ‘언제 개입해야 하는지 판단하는 능력’으로 확장되고 있다. 앤트로픽의 클로드 듀엣은 그 변화를 보여주는 새로운 실험이다.

테크WHAT NEXT

메타 3분기 실적, 광고는 26% 성장했는데 현금흐름은 적자 - AI 투자 1,450억달러의 승부수

매출은 시장 예상치를 넘어섰고, 법률비용을 제외한 주당순이익도 기대 이상이었다. 하지만 영업이익률은 반토막 났고, 잉여현금흐름은 적자로 돌아섰다. 메타는 이제 광고로 돈을 잘 버는 기업에서, 그 돈을 AI에 얼마나 효율적으로 투자하는지 증명해야 하는 기업으로 바뀌고 있다.

투자EXPLAIN

AI는 클라우드로 가는 줄 알았는데, Apple은 다시 책상 위로 가져오고 있다

Mac Studio 네 대가 1조 파라미터 모델을 돌린 장면보다 더 중요한 것은 경제학이다. AI 사용량이 충분히 많고 반복적이라면, 매번 토큰을 사는 것보다 연산 장비를 직접 보유하는 편이 싸지는 지점이 생긴다.

테크SO WHAT

Smartphone showing a Gemini trip widget on an airport cafe table

구글이 앱을 만드는 방식을 바꾼다. 이제 AI에게 말하면 내 화면이 만들어진다

우리는 지금까지 앱이 만들어 놓은 화면에 적응했다. 구글은 이제 AI가 사람마다 필요한 화면을 직접 구성하는 시대를 열려 한다.

테크EXPLAIN

안드레 카파시가 본 AI의 기묘한 격차 : 누군가에겐 어설픈 챗봇, 누군가에겐 수직으로 치솟는 능력

어떤 사람에게 AI는 질문에 엉뚱하게 답하는 챗봇이다. 조금 더 편리한 검색엔진 정도다.

세상이야기EXPLAIN

AI가 손과 발을 얻은 뒤 - 공장보다 더 크게 바뀌는 것은 아이들의 공부와 인간의 일이다

피지컬 AI는 로봇 산업의 유행어가 아니다. AI가 화면 밖으로 나와 현실의 물체를 움직이기 시작하면서, 제조업의 경쟁 방식과 인간이 맡는 일의 경계, 그리고 ‘무엇을 배워야 하는가’라는 교육의 오래된 질문까지 동시에 흔들고 있다.

세상이야기SO WHAT

아마존 상자와 노트북 위 상품 정보 화면, 뒤편의 구글 로고

아마존은 왜 팔지도 않는 상품의 정보까지 모으려 할까?

구글에서 제품을 조사하고 아마존에서 구매하던 시대. AI가 검색과 구매를 하나로 연결하기 시작하자, 아마존은 전 세계 상품 정보의 주도권을 확보하려 한다.

테크WHY

HBM

이 기사의 주제기사 97편모두 보기 →

GPU 옆에 쌓아 올리는 메모리.

2027년 AI 버블이 터진다? 월가의 36% 폭락 경고, 진짜 위험은 따로 있다

AI 기술의 성공과 AI 주식의 성공은 다르다. 2027년 폭락론이 던지는 진짜 질문은 투자한 돈을 회수할 수 있는가다.

투자REALLY?

S&P 500 이익증가의 34%가 두 회사 몫이다…AI는 아직 ‘사는 쪽’보다 ‘파는 쪽’이 번다

엔비디아와 마이크론이 미국 대형주 이익증가의 3분의 1을 만들고 있다. 동시에 Apollo는 매그니피센트7을 뺀 S&P 493에서 AI의 재무효과가 아직 보이지 않는다고 지적했다. AI 강세장의 다음 단계는 더 많은 GPU 판매가 아니라, 그 GPU를 산 기업의 이익률 개선에서 확인될 가능성이 크다.

투자WHAT NEXT

한국 메모리 슈퍼사이클, 2029년 공급과잉? 2029년 이후에도 이어질까

AI 메모리 호황의 지속 가능성을 살펴본다. 삼성전자, SK하이닉스, 마이크론의 증설 계획과 투자자가 확인해야 할 핵심 지표

테크WHAT NEXT

AI 반도체는 정말 저평가됐을까? 시장의 의심이 쉽게 사라지지 않는 이유

수요는 강하고 실적은 좋은데 주가는 불안하다. 이제 투자자가 확인해야 할 것은 성장률보다 이익의 지속성과 투자금 회수 능력이다.

테크REALLY?

메모리 실적은 아직 오르는데, 돈은 먼저 떠나고 있다

메모리 가격은 아직 오르는데 DRAM ETF에서는 12주째 돈이 빠졌다. PC 업체가 주문을 줄이기 시작했고, AI 서버 고객은 아직 물량을 확보한다. 지금 시장이 무엇을 걱정하는지 이번 주 변화로 나눠 본다.

투자EXPLAIN

반도체 웨이퍼와 메모리 모듈, 전면의 메모리 칩, 배경의 서버 랙과 주가 차트.

메모리 반도체 피크, 이번 주 점검: 부족은 여전한데 부족 폭이 줄었다

Citi가 2027년 DRAM과 NAND 공급 부족 전망을 함께 낮췄다. 서버용 가격은 아직 강한데 소비자용 시장에서는 약세 신호가 나온다. 메모리 호황의 정점이 어디인지 이번 주 숫자로 점검한다.

투자EXPLAIN

중국 반도체의 추격, SK하이닉스와 삼성전자의 슈퍼사이클은 어떻게 되나?

2027년까지는 메모리 부족, 2028년부터는 공급 과잉 위험. AI 반도체 투자자가 지금 구분해야 할 두 개의 시간표

테크WHAT NEXT

구글

이 기사의 주제기사 52편모두 보기 →
Trader on a trading floor watching a red falling chart beside Google, Amazon, Microsoft and Meta logos

나스닥 선물 -2.36%, AI 투자 공포는 또 시작됐다. 이번에도 겁먹고 팔아야 할까?

알파벳과 아마존 실적 발표 뒤 나스닥 선물이 2% 넘게 내렸다. 시장은 AI 수요보다 투자비와 현금흐름을 묻기 시작했다. 이 공포가 처음 보는 것인지, 그리고 장기투자자는 무엇을 확인해야 하는지 짚는다.

투자자의 사고EXPLAIN

앤스로픽 IPO가 드러낸 AI 투자의 다음 질문 : 매출은 폭발한다. 이익은 누가 가져가는가

매출이 기하급수적으로 커지는 사이, 회계상 적자와 실제 현금흐름은 전혀 다른 모습을 보였다. AI 산업의 승자를 가릴 기준은 성장률만이 아니다.

투자WHAT NEXT

전기가 부족하면 AI 계산을 잠깐 멈추면 안 될까

AI 데이터센터의 전력 문제는 지금까지 “발전소를 얼마나 더 지을 것인가”의 문제처럼 보였다. Nvidia와 Google은 여기에 두 번째 답을 꺼냈다. 전기가 가장 부족한 몇 시간 동안, 미뤄도 되는 AI 계산을 미루자는 것이다.

테크SO WHAT

빅테크의 현금이 마르고 있다. 그런데 AI 사업은 더 많은 돈을 벌고 있다

노무라가 제시한 J-커브의 역설. AI 투자자가 구분해야 할 것은 수익성 악화와 투자 회수의 시간차다.

테크EXPLAIN

Satellite orbiting above Earth with sunlight on its solar panels

구글이 AI를 우주로 보냈다. 데이터센터의 다음 주소는 지구 밖인가

AI 데이터센터를 굳이 지구에 지어야 할까? 구글이 이 엉뚱해 보이는 질문에 실제 위성으로 답하기 시작했다. 우주로 보낸 AI 반도체가 지상의 질문을 받아 시를 쓰고, 그 답을 지구로 돌려보냈다. 작은 실험이지만 그 뒤에는 훨씬 큰 구상이 있다. AI의 미래를 결정할 경쟁이 반도체 성능에서 전력과 데이터센터의 위치로 확대되고 있다.

테크EXPLAIN

Shopper comparing washing machines with an AI shopping assistant

검색도 안 했는데 AI가 대신 골랐다, 쇼핑몰과 광고는 어떻게 돈을 벌까?

중국에서는 8,000만 명 가까이가 AI 쇼핑 도우미를 이용했고, 미국에서는 항공사가 외부 AI의 접근을 제한했다. 소비자 대신 상품을 고르는 AI가 늘어나면 아마존의 광고, 구글의 검색, 브랜드의 판매 전략은 어떻게 달라질까?

테크SO WHAT

Google Cloud 데이터센터의 TPU 서버 랙과 엔지니어

AI 칩도 이제 맞춤형 시대, 구글 TPU 2종이 바꾸는 엔비디아의 경쟁 구도

보안과 대규모 추론으로 갈라지는 AI 반도체 시장. 구글은 왜 엔비디아와 다른 길을 택했을까?

테크WHY