딥시크가 HBM을 75% 덜 쓰니 SK하이닉스에 타격? 시장이 놓친 숫자는 따로 있다

주가가 먼저 반응했다. 하지만 원인은 하나가 아니었다

9월 11일 삼성전자는 3.53% 하락했고 SK하이닉스는 2.21% 내렸다. 딥시크의 V4.1 Flash 발표가 “AI가 생각보다 훨씬 적은 메모리로 돌아갈 수 있다”는 우려를 자극한 것은 맞다.

다만 이날 하락을 딥시크 하나로 설명하면 지나치게 단순하다. 같은 날 코스피도 1.76% 하락했다. 중동발 유가 상승과 미국 국채금리 급등이 기술주 전반을 누르고 있었다. 딥시크는 약한 시장에서 메모리주에 추가로 붙은 악재에 가까웠다.

딥시크가 정말 75% 줄인 것은 무엇인가

핵심은 KV 캐시다. 대형언어모델은 긴 문장을 읽은 뒤 다음 단어를 만들 때, 앞에서 이미 읽은 내용을 매번 처음부터 계산하지 않는다. 그 과정에서 필요한 중간 정보를 GPU 메모리에 저장해 두는데 이것이 KV 캐시다.

쉽게 말하면 책을 읽으며 중요한 페이지에 포스트잇을 붙여두는 것과 비슷하다. 포스트잇이 많을수록 다시 찾기는 빠르지만 공간을 많이 차지한다. 딥시크는 이 포스트잇을 훨씬 작게 만들고 여러 층에서 재사용하는 구조를 설계했다.

딥시크 공식 설명에 따르면 V4.1 Flash는 5520억 파라미터의 MoE 모델이지만 입력 처리에서는 80억, 출력 생성에서는 160억 파라미터만 활성화한다. 그리고 이전 세대와 비교해 KV 캐시에 필요한 HBM을 4분의 1, SSD를 8분의 1로 줄였다.

여기서 가장 많이 생기는 오해

MoE의 “활성 파라미터”는 특히 오해하기 쉽다. 거대한 도서관에서 질문에 필요한 몇 개 서가만 열어본다고 해서 나머지 책이 사라지는 것은 아니다. 계산에 참여하는 파라미터는 줄어도 전체 모델 가중치를 저장하고 여러 GPU에 배치해야 하는 부담은 남는다.

학습 때 필요한 메모리는 더 별개의 문제다. 기울기, 옵티마이저 상태, 중간 활성값 등은 KV 캐시와 다른 종류의 메모리를 요구한다. 그래서 이번 발표는 추론 효율의 큰 진전이지, AI 메모리 수요 전체를 4분의 1로 만든 사건은 아니다.

오히려 서버 사업자에게는 “같은 HBM으로 네 배 더 하기”에 가깝다

이 기술이 실제 서비스에 주는 효과는 HBM을 떼어내는 것보다 같은 GPU에서 더 많은 일을 처리하는 것에 가깝다. 긴 대화를 더 오래 유지하고, 동시에 더 많은 이용자를 받고, 코딩 에이전트를 여러 개 병렬로 돌릴 수 있다.

이 점이 HBM 투자에서 가장 중요하다. 앞으로의 수요는 단순히 “모델 하나가 몇 GB를 쓰느냐”로 결정되지 않는다. 토큰당 메모리 × 동시 세션 수 × 평균 컨텍스트 길이 × 전체 호출량이 함께 움직인다.

AI 비용이 떨어지면 기업은 보통 절감된 비용을 그대로 현금으로 남기기보다 더 많은 추론에 쓴다. 검색 한 번에 모델을 한 번 호출하던 서비스가 에이전트 내부에서 수십 번 호출하는 식이다. 효율 개선이 총사용량 증가를 부르는, 이른바 반동 효과가 나타날 수 있다.

그렇다고 메모리 업체가 안심할 뉴스도 아니다

반대쪽 위험도 분명하다. 딥시크의 방식이 다른 프런티어 모델과 오픈소스 모델로 빠르게 확산되고, 동시에 AI 사용량 증가 속도가 둔화한다면 상황은 달라진다. 특히 긴 컨텍스트와 에이전트 서비스에서 KV 캐시가 병목이었던 서버는 같은 트래픽을 더 적은 GPU와 HBM으로 처리할 수 있다.

메모리 업계가 기대해 온 미래 수요 중에는 “모델이 커지고 컨텍스트가 길어질수록 서버당 HBM이 계속 늘어난다”는 가정이 들어 있다. V4.1 Flash는 적어도 그 가정이 자동으로 성립하지는 않는다는 것을 보여줬다.

다만 불과 하루 전인 9월 10일에는 중국 AI 가속기 업체들이 HBM 부족 때문에 제품 가격을 20~50%까지 올리고 있다는 보도도 나왔다. 실제 공급망에서는 아직 HBM이 병목이라는 증거가 동시에 존재한다. 효율 혁신과 물리적 부족이 같은 시점에 공존하고 있는 셈이다.