최고 지능은 $2로 수렴했다: AI 가격 붕괴가 메모리·SSD의 희소성을 키우는 역설

구글, 오픈AI, 앤트로픽의 주력 모델 가격이 100만 입력 토큰당 2달러로 수렴했다. 그런데 같은 시기 마이크론은 87%의 비GAAP 매출총이익률을 기록했다. AI 경제의 핵심은 이제 ‘토큰 가격’보다 ‘작업당 비용’, 그리고 그 작업량이 어떤 물리 자원을 고갈시키는지에 있다.

20초 핵심

1
Gemini 4 Argon, GPT-6 Sol, Claude Sonnet 5.5의 공식 API 가격이 모두 100만 입력 토큰당 2달러, 출력 10달러 수준으로 수렴. 성능 경쟁이 끝난 것이 아니라 최고급 지능의 가격 프리미엄이 빠르게 축소되는 흐름.
2
반대편에서는 마이크론 FY4Q26 매출 542.3억달러, 비GAAP 총마진 87.0%, 다음 분기 매출 가이던스 615억달러 ± 15억달러. 소프트웨어 지능은 싸지지만 메모리 공급의 희소성은 오히려 커지는 모습.
3
투자자의 질문도 변경 필요. “토큰이 얼마나 싼가”보다 “업무 한 건을 끝내는 총비용과 성공률”, “사용량 증가가 효율 개선을 얼마나 초과하는가”, “병목이 HBM에서 DRAM, SSD, 전력까지 어디로 이동하는가”가 더 중요한 판단 기준.

최상위 모델의 가격표가 같은 숫자를 가리키기 시작했다

구글은 9월 30일 Gemini 4 Argon을 100만 입력 토큰당 2달러, 출력 10달러의 도입 가격으로 공개했다. 오픈AI의 GPT-6 Sol과 앤트로픽의 Claude Sonnet 5.5도 같은 가격이다. Argon은 Google이 공개한 DeepSWE v1.1에서 77.9%, AutomationBench에서 51.3%를 기록했다. 즉 이번 가격 하락을 단순한 저성능 모델의 할인으로 보기는 어렵다.

더 큰 흐름도 같다. Epoch AI는 동일한 수준의 성능을 얻는 실제 비용이 2023년 이후 분기당 약 47%, 연율로는 약 13배씩 하락했다고 추정한다. Silicon Data의 광범위 LLM 토큰 지출 지수도 9월 24일 기준 100만 토큰당 0.96달러까지 내려왔다. ‘지능 디플레이션’은 마케팅 문구보다 넓은 시장 데이터에서 확인되는 현상이다.

FRONTIER API
$2 / $10
100만 입력 / 출력 토큰당 가격
EPOCH AI
약 13배/년
동일 성능 달성 비용의 연간 하락 속도 추정
$0.96
SILICON DATA
9월 24일 광범위 시장 100만 토큰 지출 지수

그런데 마이크론의 총마진은 87%다

같은 날 마이크론이 발표한 FY4Q26 실적은 정반대의 가격 신호를 보여줬다. 매출은 542.29억달러로 전년 동기 113.15억달러보다 379% 늘었고, 비GAAP EPS는 33.42달러, 비GAAP 매출총이익률은 87.0%였다. 다음 분기 가이던스는 매출 615억달러 ± 15억달러, 비GAAP EPS 38.15달러 ± 1달러, 비GAAP 총마진 약 86.25%다.

더 중요한 숫자는 계약이다. 마이크론의 장기 전략 고객계약은 26건으로 늘었고, 시장이 인용한 잔여 계약가치는 약 1,500억달러다. 고객의 현금예치금과 관련 금융약정도 6월 220억달러에서 320억달러로 늘었다. 과거처럼 모든 물량이 짧은 주기로 가격 재협상되는 구조에서, 일부 수요가 장기 계약으로 잠기는 방향으로 이동하고 있다는 뜻이다.

다만 여기서 “메모리 사이클이 사라졌다”고 결론 내리면 과도하다. 87% 총마진은 공급 부족이 극심하다는 증거인 동시에, 고객이 더 강한 최적화와 공급 다변화를 시도할 유인이 커졌다는 뜻이다. 높은 가격이 오래 지속될수록 신규 공급과 대체 기술도 따라온다.

제번스의 역설보다 중요한 것은 ‘작업량 탄력성’

AI 모델 가격이 절반이 됐다고 인프라 수요가 자동으로 두 배가 되는 것은 아니다. 핵심은 가격 하락으로 새롭게 생기는 작업량이 모델 효율 개선과 하드웨어 성능 향상을 얼마나 초과하느냐다. 그 증가폭이 더 크면 총 컴퓨팅과 메모리 사용량은 오히려 늘어난다.

모델 가격 하락
에이전트 호출 증가
긴 컨텍스트 · 반복 실행
메모리 · 스토리지 · 전력 수요

이 때문에 에이전트 시대의 경제성은 토큰 단가 하나로 설명하기 어렵다. 계획, 검색, 도구 호출, 오류 수정이 반복되는 업무에서는 더 비싼 모델이더라도 적은 반복으로 성공하면 최종 비용이 더 낮을 수 있다. Anthropic이 Sonnet 5.5를 “대부분의 작업에서 최대 30% 저렴하다”고 설명하는 것도 단순 API 가격보다 실제 작업당 비용을 강조한 표현이다.

다음 병목은 HBM만이 아니다

긴 컨텍스트와 장시간 실행되는 에이전트가 늘면 KV 캐시를 GPU HBM에만 계속 보관하기 어렵다. LMCache와 Mooncake 같은 추론 인프라는 KV 캐시를 GPU에서 CPU 메모리, 로컬 SSD, 원격 스토리지로 계층화해 재사용하는 구조를 이미 지원한다. Mooncake의 공개 벤치마크에서는 SSD 오프로딩이 GPU-only 대비 평균 TTFT를 57% 줄이고 입력 처리량을 2.4배 높였다.

마이크론도 FY4Q26 자료에서 자사의 PCIe Gen5·Gen6 SSD가 KV-cache 애플리케이션용으로 주요 고객에게 출하되고 있다고 명시했다. 이는 HBM 수요가 SSD로 대체된다는 뜻이 아니다. HBM은 실시간 연산의 최상위 계층으로 남고, 값싼 대용량 SSD가 오래 유지해야 하는 캐시와 컨텍스트를 맡는 계층화가 진행된다는 의미다.

계층주요 자원역할투자자가 볼 것
Tier 0GPU HBM실시간 어텐션, 활성 토큰 처리HBM 용량, 대역폭, 패키징 공급
Tier 1Host DRAM / CXL빠른 캐시 완충과 스왑서버 DRAM 비트 수요, CXL 채택
Tier 2Enterprise NVMe SSD대용량 KV 캐시 보존과 재사용QLC eSSD 출하량, KV-cache용 SSD 매출
물리 계층전력, 송전, 가스, 부지데이터센터 실제 가동전력 확보 일정과 프로젝트 지연

소프트웨어의 가격 전쟁과 하드웨어의 희소성이 충돌한다

Project Jupiter 사례는 마지막 제약이 칩만이 아니라는 점을 보여준다. Reuters는 Oracle이 뉴멕시코 데이터센터의 전력 확보 지연 가능성을 이유로 force majeure를 통보했다고 보도했다. 다만 Oracle과 STACK은 프로젝트가 계획된 일정대로 진행 중이라고 밝혔다. 현재 확인된 사실은 “전력과 인허가가 대형 AI 프로젝트의 재무 일정까지 흔들 수 있다”는 정도다.

결국 AI 가치사슬에는 서로 반대 방향의 힘이 동시에 작동한다. 모델 사업자는 더 싼 지능을 팔아야 하고, 하이퍼스케일러는 더 많은 요청을 처리해야 하며, 인프라 공급자는 제한된 메모리와 전력의 가격을 높게 유지하려 한다. 이 균형이 깨지는 지점에서 다음 투자 기회와 다음 리스크가 함께 나온다.

INSIGHT TIMES VIEW

지금의 가장 중요한 변화는 “AI 모델의 가치가 사라진다”가 아니라, 가치 측정 단위가 바뀌고 있다는 점이다. 모델 레이어에서는 100만 토큰당 가격 프리미엄이 빠르게 압축되고 있다.

반면 기업 고객은 토큰 자체가 아니라 완성된 업무 결과에 돈을 낸다.

따라서 소프트웨어에서는 높은 작업 성공률과 독점 데이터, 워크플로우 통합력이 해자가 되고, 하드웨어에서는 HBM, 서버 DRAM, 고용량 SSD, 전력처럼 쉽게 늘릴 수 없는 자원이 가격 결정력을 갖는다.

메모리 주식에도 같은 원칙이 필요하다. 마이크론의 낮은 선행 PER만 보고 “구조적 저평가”라고 단정하기보다, 장기계약이 실제로 다운사이클의 마진 저점을 얼마나 끌어올리는지 확인해야 한다. 시장이 의심하는 것은 현재 이익의 크기가 아니라 그 이익의 지속기간이다.

AI 모델 가격은 얼마나 내렸나?
  • 구글 Gemini 4 Argon은 100만 입력 토큰당 2달러, 출력 10달러로 나왔다.
  • 오픈AI GPT-6 Sol과 앤트로픽 Claude Sonnet 5.5도 같은 가격이다.
  • Epoch AI는 같은 성능을 얻는 비용이 2023년 이후 해마다 약 13배씩 내렸다고 추정한다.
AI 값이 내리는데 메모리 회사는 왜 돈을 버나?
  • AI 가격이 내리면 새로 생기는 작업량이 늘어날 수 있다.
  • 그 증가폭이 효율 개선보다 크면 컴퓨팅과 메모리 사용량은 오히려 늘어난다.
  • 마이크론의 87% 총마진은 지금 메모리 공급이 크게 모자라다는 신호로 볼 수 있다.
AI 에이전트가 늘면 SSD 수요가 왜 늘어나나?
  • 긴 문맥을 다루거나 오래 도는 에이전트가 늘면 KV 캐시를 GPU 메모리(HBM)에만 두기 어렵다.
  • LMCache, Mooncake 같은 추론 도구는 이 캐시를 CPU 메모리와 SSD로 나눠 보관한다.
  • 마이크론은 KV 캐시용 PCIe Gen5·Gen6 SSD를 주요 고객에게 출하하고 있다고 밝혔다.
SSD가 HBM을 대체하나?
  • 지금까지의 자료로는 대체보다 역할 분담에 가깝다.
  • HBM은 실시간 연산을 맡는 맨 위 계층으로 남을 가능성이 크다.
  • SSD는 오래 보관할 캐시와 문맥을 맡는 쪽으로 쓰이고 있다.
메모리 사이클은 이제 사라졌나?
  • 그렇게 결론 내리기는 이르다.
  • 높은 가격이 오래 가면 고객이 최적화와 공급처 다변화를 서두를 유인이 커진다.
  • 신규 공급과 대체 기술이 따라올 수 있다는 점도 함께 봐야 한다.

체크 포인트

작업당 비용과 성공률토큰 가격이 더 내려가도 에이전트가 반복 호출을 줄이지 못하면 기업의 실제 비용은 내려가지 않을 수 있음.
마이크론 총마진과 SCA 비중80%대 총마진 유지 여부, 장기계약 매출 비중 확대가 과거 사이클의 이익 변동성을 얼마나 낮추는지 확인.
HBM 외 서버 DRAM · eSSD 성장AI 메모리 수혜가 HBM 한 품목을 넘어 서버 DRAM과 KV-cache용 SSD로 확산되는지 확인.
하이퍼스케일러 CapEx와 AI 매출인프라 비용 상승보다 AI 서비스 매출과 고객 ROI가 빠르게 성장하는지 확인.
전력 확보와 데이터센터 가동 일정칩 구매 발표보다 실제 MW 연결과 상업 가동 시점이 중요. 지연이 늘면 메모리 수요의 인식 시점도 뒤로 밀릴 가능성.
AI 지능이 싸질수록 메모리와 전력은 더 귀해질 수 있다.

인사이트 타임스 편집부

주제로 더 읽기

이 기사의 주제부터, 요즘 많이 읽히는 주제까지

투자 심리와 의사결정, 그리고 투자 책 이야기

AI 에이전트

이 기사의 주제기사 89편모두 보기 →

사람이 한 줄 시키면 여러 단계를 스스로 밟아 일을 끝내는 AI.

클로드 듀엣의 등장, AI가 이제 먼저 말을 걸기 시작했다

AI의 경쟁력이 답변의 정확도에서 ‘언제 개입해야 하는지 판단하는 능력’으로 확장되고 있다. 앤트로픽의 클로드 듀엣은 그 변화를 보여주는 새로운 실험이다.

테크WHAT NEXT

메타 3분기 실적, 광고는 26% 성장했는데 현금흐름은 적자 - AI 투자 1,450억달러의 승부수

매출은 시장 예상치를 넘어섰고, 법률비용을 제외한 주당순이익도 기대 이상이었다. 하지만 영업이익률은 반토막 났고, 잉여현금흐름은 적자로 돌아섰다. 메타는 이제 광고로 돈을 잘 버는 기업에서, 그 돈을 AI에 얼마나 효율적으로 투자하는지 증명해야 하는 기업으로 바뀌고 있다.

투자EXPLAIN

AI는 클라우드로 가는 줄 알았는데, Apple은 다시 책상 위로 가져오고 있다

Mac Studio 네 대가 1조 파라미터 모델을 돌린 장면보다 더 중요한 것은 경제학이다. AI 사용량이 충분히 많고 반복적이라면, 매번 토큰을 사는 것보다 연산 장비를 직접 보유하는 편이 싸지는 지점이 생긴다.

테크SO WHAT

Smartphone showing a Gemini trip widget on an airport cafe table

구글이 앱을 만드는 방식을 바꾼다. 이제 AI에게 말하면 내 화면이 만들어진다

우리는 지금까지 앱이 만들어 놓은 화면에 적응했다. 구글은 이제 AI가 사람마다 필요한 화면을 직접 구성하는 시대를 열려 한다.

테크EXPLAIN

AI가 손과 발을 얻은 뒤 - 공장보다 더 크게 바뀌는 것은 아이들의 공부와 인간의 일이다

피지컬 AI는 로봇 산업의 유행어가 아니다. AI가 화면 밖으로 나와 현실의 물체를 움직이기 시작하면서, 제조업의 경쟁 방식과 인간이 맡는 일의 경계, 그리고 ‘무엇을 배워야 하는가’라는 교육의 오래된 질문까지 동시에 흔들고 있다.

세상이야기SO WHAT

아마존 상자와 노트북 위 상품 정보 화면, 뒤편의 구글 로고

아마존은 왜 팔지도 않는 상품의 정보까지 모으려 할까?

구글에서 제품을 조사하고 아마존에서 구매하던 시대. AI가 검색과 구매를 하나로 연결하기 시작하자, 아마존은 전 세계 상품 정보의 주도권을 확보하려 한다.

테크WHY

Shopper comparing washing machines with an AI shopping assistant

검색도 안 했는데 AI가 대신 골랐다, 쇼핑몰과 광고는 어떻게 돈을 벌까?

중국에서는 8,000만 명 가까이가 AI 쇼핑 도우미를 이용했고, 미국에서는 항공사가 외부 AI의 접근을 제한했다. 소비자 대신 상품을 고르는 AI가 늘어나면 아마존의 광고, 구글의 검색, 브랜드의 판매 전략은 어떻게 달라질까?

테크SO WHAT

HBM

이 기사의 주제기사 97편모두 보기 →

GPU 옆에 쌓아 올리는 메모리.

2027년 AI 버블이 터진다? 월가의 36% 폭락 경고, 진짜 위험은 따로 있다

AI 기술의 성공과 AI 주식의 성공은 다르다. 2027년 폭락론이 던지는 진짜 질문은 투자한 돈을 회수할 수 있는가다.

투자REALLY?

S&P 500 이익증가의 34%가 두 회사 몫이다…AI는 아직 ‘사는 쪽’보다 ‘파는 쪽’이 번다

엔비디아와 마이크론이 미국 대형주 이익증가의 3분의 1을 만들고 있다. 동시에 Apollo는 매그니피센트7을 뺀 S&P 493에서 AI의 재무효과가 아직 보이지 않는다고 지적했다. AI 강세장의 다음 단계는 더 많은 GPU 판매가 아니라, 그 GPU를 산 기업의 이익률 개선에서 확인될 가능성이 크다.

투자WHAT NEXT

한국 메모리 슈퍼사이클, 2029년 공급과잉? 2029년 이후에도 이어질까

AI 메모리 호황의 지속 가능성을 살펴본다. 삼성전자, SK하이닉스, 마이크론의 증설 계획과 투자자가 확인해야 할 핵심 지표

테크WHAT NEXT

AI 반도체는 정말 저평가됐을까? 시장의 의심이 쉽게 사라지지 않는 이유

수요는 강하고 실적은 좋은데 주가는 불안하다. 이제 투자자가 확인해야 할 것은 성장률보다 이익의 지속성과 투자금 회수 능력이다.

테크REALLY?

메모리 실적은 아직 오르는데, 돈은 먼저 떠나고 있다

메모리 가격은 아직 오르는데 DRAM ETF에서는 12주째 돈이 빠졌다. PC 업체가 주문을 줄이기 시작했고, AI 서버 고객은 아직 물량을 확보한다. 지금 시장이 무엇을 걱정하는지 이번 주 변화로 나눠 본다.

투자EXPLAIN

반도체 웨이퍼와 메모리 모듈, 전면의 메모리 칩, 배경의 서버 랙과 주가 차트.

메모리 반도체 피크, 이번 주 점검: 부족은 여전한데 부족 폭이 줄었다

Citi가 2027년 DRAM과 NAND 공급 부족 전망을 함께 낮췄다. 서버용 가격은 아직 강한데 소비자용 시장에서는 약세 신호가 나온다. 메모리 호황의 정점이 어디인지 이번 주 숫자로 점검한다.

투자EXPLAIN

중국 반도체의 추격, SK하이닉스와 삼성전자의 슈퍼사이클은 어떻게 되나?

2027년까지는 메모리 부족, 2028년부터는 공급 과잉 위험. AI 반도체 투자자가 지금 구분해야 할 두 개의 시간표

테크WHAT NEXT

구글

이 기사의 주제기사 52편모두 보기 →
Trader on a trading floor watching a red falling chart beside Google, Amazon, Microsoft and Meta logos

나스닥 선물 -2.36%, AI 투자 공포는 또 시작됐다. 이번에도 겁먹고 팔아야 할까?

알파벳과 아마존 실적 발표 뒤 나스닥 선물이 2% 넘게 내렸다. 시장은 AI 수요보다 투자비와 현금흐름을 묻기 시작했다. 이 공포가 처음 보는 것인지, 그리고 장기투자자는 무엇을 확인해야 하는지 짚는다.

투자자의 사고EXPLAIN

유리 외벽에 ANTHROPIC 기업 로고가 보이는 도심 건물의 보도사진 스타일 이미지

앤트로픽 IPO 1.4조 달러의 진짜 의미, AI 성장에 필요한 돈은 누가 부담할까?

앤트로픽의 IPO는 단순히 거대한 AI 기업 하나가 증시에 입성하는 사건이 아니다. AI 산업이 지금까지의 사모 투자와 빅테크의 자금 지원을 넘어, 공개 주식시장에서 대규모 성장 자금을 조달하는 단계로 진입한다는 의미가 있다.

테크REALLY?

앤스로픽 IPO가 드러낸 AI 투자의 다음 질문 : 매출은 폭발한다. 이익은 누가 가져가는가

매출이 기하급수적으로 커지는 사이, 회계상 적자와 실제 현금흐름은 전혀 다른 모습을 보였다. AI 산업의 승자를 가릴 기준은 성장률만이 아니다.

투자WHAT NEXT

전기가 부족하면 AI 계산을 잠깐 멈추면 안 될까

AI 데이터센터의 전력 문제는 지금까지 “발전소를 얼마나 더 지을 것인가”의 문제처럼 보였다. Nvidia와 Google은 여기에 두 번째 답을 꺼냈다. 전기가 가장 부족한 몇 시간 동안, 미뤄도 되는 AI 계산을 미루자는 것이다.

테크SO WHAT

빅테크의 현금이 마르고 있다. 그런데 AI 사업은 더 많은 돈을 벌고 있다

노무라가 제시한 J-커브의 역설. AI 투자자가 구분해야 할 것은 수익성 악화와 투자 회수의 시간차다.

테크EXPLAIN

Satellite orbiting above Earth with sunlight on its solar panels

구글이 AI를 우주로 보냈다. 데이터센터의 다음 주소는 지구 밖인가

AI 데이터센터를 굳이 지구에 지어야 할까? 구글이 이 엉뚱해 보이는 질문에 실제 위성으로 답하기 시작했다. 우주로 보낸 AI 반도체가 지상의 질문을 받아 시를 쓰고, 그 답을 지구로 돌려보냈다. 작은 실험이지만 그 뒤에는 훨씬 큰 구상이 있다. AI의 미래를 결정할 경쟁이 반도체 성능에서 전력과 데이터센터의 위치로 확대되고 있다.

테크EXPLAIN

Google Cloud 데이터센터의 TPU 서버 랙과 엔지니어

AI 칩도 이제 맞춤형 시대, 구글 TPU 2종이 바꾸는 엔비디아의 경쟁 구도

보안과 대규모 추론으로 갈라지는 AI 반도체 시장. 구글은 왜 엔비디아와 다른 길을 택했을까?

테크WHY

젠슨 황 없는 엔비디아, 1,090억 달러 실적보다 중요한 세 가지 질문

11월 12일 엔비디아는 공동창업자 젠슨 황의 CEO 및 이사회 사임을 발표했다. SEC 공시에 따르면 이사회가 사임을 수리한 날은 11월 11일이다.

투자SO WHAT

젠슨 황이 떠나자, 왜 엔비디아보다 더 불안한 회사들이 생겼을까?

2026년 11월 12일, AI 산업의 상징과도 같았던 젠슨 황이 엔비디아 CEO 자리에서 물러났다는 발표가 나왔다. 1993년 창업 이후 33년 동안 회사를 이끌었던 인물의 퇴장. 충격은 엔비디아 주가에만 머물지 않았다.

투자WHY

말로는 겁을 냈지만, 돈으로는 주식을 샀다 - 이번 주 월가 뷰가 본 두 얼굴의 시장

이번 주 월가에서는 투자자의 말과 돈이 서로 다른 쪽을 가리켰다. 엔비디아가 크게 빠졌는데도 지수는 조금만 내려왔다. 장기투자자가 이 한 주에서 무엇을 확인할 수 있는지 네 가지로 정리했다.

투자EXPLAIN

기술주 급락, 강세장은 끝났을까? 월가의 4년 차트가 말하는 진실

4년간 다섯 번의 두 자릿수 조정에도 살아남은 상승 추세. 그러나 이번에는 AI 기업의 부채와 현금흐름이 새로운 변수로 떠올랐다.

투자WHAT NEXT

젠슨 황의 퇴장, 엔비디아가 잃은 것과 미국 AI 패권이 직면한 딜레마

개인 스캔들로 시작된 사임이 드러낸 것은 한 기업의 경영 공백만이 아니다. 중국을 통제하면서도 미국 기술의 영향력을 유지해야 하는 정책의 모순, 그리고 AI 산업의 실행 속도가 탁월한 한 사람에게 의존해온 취약성이다.

투자SO WHAT

머스크가 내다본 AI 인프라의 다음 단계

네오클라우드의 위기는 왜 스페이스X와 테슬라의 기회가 될 수 있을까

테크WHAT NEXT

AI의 다음 병목은 돈이다

Broadcom은 Anthropic에 최대 420억달러를 대고, Nvidia는 GPU를 담보로 5,000억달러 금융시장을 만들려 한다

테크WHAT NEXT