TAG
KV 캐시(KV Cache)
이 주제의 기사 2편. 최신 기사부터.

샌디스크의 호실적이 던진 질문: AI의 돈은 연산 다음 어디에 쌓이는가
샌디스크의 이번 실적은 그 관점에서 읽어야 한다. 단순히 “AI 데이터센터가 늘어나니 SSD도 많이 팔린다”는 이야기가 아니다. AI 인프라의 경제적 가치가 연산장치에서 데이터를 공급하고, 기억을 보존하며, 비싼 연산자원을 쉬지 않게 만드는 계층으로 확장되고 있다는 신호다.

지능은 2달러로 내려가는데, 메모리는 87% 마진을 찍었다
AI의 경제학이 뒤집히고 있다. 프런티어급 모델의 API 가격은 100만 입력 토큰당 2달러로 수렴하는데, 이를 돌리는 메모리와 컨텍스트 저장장치는 오히려 병목이 되고 있다. 투자자가 봐야 할 것은 ‘AI가 얼마나 똑똑해졌나’보다 ‘AI 사용량이 늘수록 무엇이 더 희소해지는가’다.
이 섹션에 아직 발행한 특집이 없습니다.
이메일 주소만 받습니다. 편지마다 있는 링크로 언제든 그만 받을 수 있습니다.