AI는 이제 답하지 않는다, 일한다 - ‘디지털 노동력’이 여는 두 번째 인프라 사이클

챗봇 다음의 경쟁자는 ‘디지털 노동력’이다

지금까지 생성형 AI의 대표 화면은 채팅창이었다. 사용자가 질문하면 모델이 답하고 세션이 끝났다. 에이전트형 AI는 구조가 다르다. 목표를 받으면 일을 쪼개고, 필요한 데이터를 찾고, 브라우저·이메일·캘린더·문서·코딩 도구를 오가며 작업을 이어간다.

최근 보도에 따르면 OpenAI는 SpaceX의 Grok Bot과 Meta의 Muse 같은 개인형·업무형 에이전트에 대응하는 기능을 개발하고 있다. Meta의 Muse는 이메일 발송, 여행 예약, 웹 양식 작성 같은 작업을 수행하고 사용자가 앱을 닫아도 작업을 계속하는 방향을 제시했다. 중요한 것은 특정 제품의 승패가 아니다. AI 제품의 평가 기준이 ‘얼마나 똑똑하게 말하는가’에서 ‘얼마나 안정적으로 일을 끝내는가’로 이동하고 있다는 점이다.

한 번의 질문이 ‘여러 번의 컴퓨팅’으로 바뀐다

에이전트의 경제성을 이해하려면 작업 한 건의 구조를 봐야 한다. 목표 이해 → 계획 → 데이터 검색 → 도구 호출 → 결과 검증 → 재추론 → 실행이 반복된다. 기존 챗봇의 한두 번 모델 호출이 수십 번의 추론과 데이터 이동으로 바뀔 수 있다.

Goldman Sachs Research는 에이전트 확산으로 2030년 토큰 소비가 크게 늘어날 가능성을 제시했다. 핵심은 단가와 총량을 분리해서 보는 것이다. 토큰당 비용이 하락하면 서비스 가격은 내려가지만, 그만큼 더 많은 자동화가 경제적으로 가능해진다. 가격 하락이 사용량 증가를 촉발하면 총 연산량은 줄지 않을 수 있다.

따라서 ‘추론 가격 하락 = 반도체 수요 둔화’라는 등식은 너무 단순하다. 투자자가 봐야 할 것은 토큰 단가가 아니라 고객 한 명, 에이전트 한 개, 업무 한 건이 소비하는 총 컴퓨팅량과 그 컴퓨팅이 실제 비용 절감으로 이어지는지다.

GPU만 보면 두 번째 사이클을 놓친다

에이전트 시대에도 GPU는 핵심이다. 다만 GPU 혼자 일을 끝내지는 않는다. CPU는 데이터 검색, API 호출, 샌드박스 실행, 메모리와 입출력 관리, 보안 정책, 가상머신과 기업 애플리케이션을 조율한다. AMD는 2026년 에이전트형 AI가 서버 CPU 수요를 구조적으로 높이고 있다고 설명했고, 2030년 서버 CPU 시장 기회를 기존 600억달러에서 2,200억달러 이상으로 상향했다. 이는 회사의 전망이지 확정된 시장 규모는 아니지만, CPU의 역할이 다시 커지고 있다는 방향성은 중요하다.

메모리도 같은 이유로 중요해진다. 긴 문서와 작업 이력, 대화 맥락을 유지하려면 HBM과 서버 DRAM의 용량·대역폭 부담이 커진다. 네트워크는 수많은 가속기와 서버를 하나의 거대한 컴퓨터처럼 묶어야 한다. 결국 에이전트는 GPU 수요를 대체하기보다, GPU 주변의 CPU·메모리·네트워크 수요를 함께 끌어올리는 쪽에 가깝다.

AI 가치사슬은 네 층으로 보면 선명해진다

모델은 생각하는 엔진이다. 에이전트는 그 엔진으로 계획하고 행동한다. 플랫폼은 데이터, 앱, 결제, ID, 권한을 연결해 실제 행동을 가능하게 한다. 물리 인프라는 이 모든 것을 계속 돌리는 데이터센터, 전력, 냉각, 광통신이다.

이 구조에서 소프트웨어와 하드웨어의 경계는 오히려 더 긴밀해진다. 가장 좋은 모델이 있어도 데이터 접근권한이 없으면 일을 못 한다. 에이전트가 있어도 전력망 접속이 늦어 데이터센터가 가동되지 않으면 사용량을 매출로 바꿀 수 없다. 경쟁력은 한 개의 모델 점수보다 전체 시스템의 비용, 신뢰성, 실행 속도에서 결정될 가능성이 높다.

31.6조달러가 말하는 것은 ‘GPU 구매액’이 아니다

PwC는 2026년부터 2050년까지 글로벌 데이터센터 누적 CapEx를 기준 시나리오에서 31.6조달러로 전망했다. 연간 투자액은 2026년 약 8,000억달러에서 2050년 1.8조달러로 늘어날 수 있다고 봤다. 이 수치는 전망이며 실제 투자액은 AI 도입 속도, 반도체 공급망, 전력, 규제에 따라 크게 달라질 수 있다.

더 중요한 대목은 투자 구성이다. PwC는 서버와 GPU 등 ICT 장비가 4~6년마다 교체돼야 하기 때문에 AI 인프라가 한 번 짓고 끝나는 건설 사이클이 아니라 반복 투자 사이클이 될 가능성을 강조했다. 전력은 어느 지역이 이 투자를 실제로 유치할지를 가르는 핵심 제약으로 지목됐다.

즉 두 번째 AI 인프라 사이클의 병목은 ‘칩을 살 돈이 있는가’에서 ‘칩을 꽂아 실제로 돌릴 전력·냉각·네트워크가 있는가’로 넓어지고 있다.

투자자는 어디서 숫자를 확인해야 하나

첫째, 하이퍼스케일러 CapEx가 얼마나 늘어나는지만 보지 말고 AI 매출과 현금흐름이 같은 속도로 따라오는지 봐야 한다. 투자가 매출보다 오래 앞서면 밸류에이션 부담이 커진다.

둘째, HBM 계약가격과 서버 DRAM 가격, 첨단 패키징 리드타임을 함께 봐야 한다. GPU 출하가 늘어도 메모리와 패키징이 막히면 시스템 출하가 제한된다.

셋째, 네트워크와 광학의 세대 전환을 확인해야 한다. 800G에서 1.6T로의 전환, 고속 이더넷과 광모듈 침투율은 클러스터 규모가 얼마나 빠르게 커지는지 보여주는 선행지표가 될 수 있다.

넷째, 데이터센터의 전력 확보량과 랙당 전력밀도, 냉각 투자다. 발표된 데이터센터 계획보다 실제 전력망 연결과 가동 시점이 훨씬 중요하다.

다섯째, 에이전트의 유료 사용자 수보다 업무 완료율, 재사용률, 사람의 개입 비율, 고객의 시간·비용 절감 효과를 봐야 한다. 이것이 검증돼야 인프라 투자도 지속 가능한 수요가 된다.