AI는 클라우드로 가는 줄 알았는데, Apple은 다시 책상 위로 가져오고 있다
Mac Studio 네 대가 1조 파라미터 모델을 돌린 장면보다 더 중요한 것은 경제학이다. AI 사용량이 충분히 많고 반복적이라면, 매번 토큰을 사는 것보다 연산 장비를 직접 보유하는 편이 싸지는 지점이 생긴다.
20초 핵심
AI에도 ‘빌릴 것인가, 살 것인가’가 시작됐다
지난 3년간 AI 투자 논리는 거의 한 방향이었다. 더 큰 모델, 더 많은 GPU, 더 큰 데이터센터, 더 많은 전력이다. 이 방향은 여전히 유효하다. 다만 Apple이 던진 질문은 다른 곳에 있다. 기업이 AI를 계속 반복해서 쓴다면 컴퓨팅을 언제까지 임대해야 하느냐는 것이다.
클라우드 AI는 기본적으로 사용량 과금이다. 호출이 늘수록 토큰 비용도 늘어난다. 반면 로컬 AI는 하드웨어를 먼저 사고, 이후 전력과 운영비를 부담한다. 경제성을 단순화하면 손익분기점은 ‘하드웨어 가격 + 전력·관리비’와 ‘누적 클라우드 추론비’가 만나는 지점이다. 사용량이 작거나 들쭉날쭉하면 클라우드가 유리하다. 사용량이 크고 일정하면 소유가 유리해질 수 있다.
이 차이는 AI Agent 시대에 더 중요해진다. 에이전트가 하루 몇 번 질문에 답하는 수준이 아니라 파일을 계속 읽고, 코드를 검사하고, 문서를 색인하고, 백그라운드에서 업무를 감시한다면 추론 호출량은 크게 늘어난다. Microsoft CEO Satya Nadella가 온디바이스 AI를 ‘unmetered intelligence’라고 부른 이유도 여기에 있다. AI를 쓸 때마다 미터기가 돌아가지 않는 컴퓨팅이다.
Apple Silicon의 ‘우연한 강점’이 AI 시대에 커졌다
Apple은 2020년 Apple Silicon을 도입하면서 CPU와 GPU가 하나의 통합 메모리 풀을 공유하는 구조를 본격화했다. 원래는 성능과 전력효율을 높이기 위한 설계였지만, 거대한 모델의 가중치를 메모리에 올려야 하는 LLM 시대에는 다른 장점이 생겼다. 신형 Mac Studio는 최대 512GB 통합 메모리와 1.2TB/s 메모리 대역폭을 제공한다.
Apple은 여기에 Thunderbolt 5 기반 RDMA를 붙였다. 여러 Mac Studio의 메모리와 연산 자원을 묶어 단일 장비에 들어가지 않는 모델을 나눠 실행하는 방식이다. Reuters에 따르면 Apple은 4대의 Mac Studio로 1조 파라미터 모델을 구동해 그래픽 코딩 버그를 찾아 수정하는 작업을 시연했다. 이 작업은 벽 콘센트 하나로 전력을 공급받았다.
다만 ‘1조 파라미터를 돌렸다’는 숫자만 보고 데이터센터급 AI를 대체한다고 해석하면 안 된다. 모델을 메모리에 적재해 추론할 수 있다는 것과, 수많은 사용자에게 hyperscale 수준의 처리량과 가용성을 제공하는 것은 전혀 다른 문제다. Apple이 보여준 것은 대체재라기보다 새로운 배치 옵션이다.
AI 인프라는 한쪽에서는 더 커지고, 다른 쪽에서는 더 작아진다
앞으로 AI 인프라는 양극화될 가능성이 높다. 한쪽에서는 1GW급 데이터센터, 수십만 개의 GPU, 초대형 학습 클러스터가 계속 커진다. 다른 쪽에서는 Mac, PC, 스마트폰, 자동차, 로봇, 웨어러블 안으로 추론이 내려온다.
이 구조에서 역할은 자연스럽게 나뉜다. 프런티어 모델 학습, 초대형 배치 추론, 급격한 수요 변동은 클라우드가 유리하다. 반대로 기업 내부 문서 검색, 소스코드 분석, 영상 처리, 장시간 백그라운드 에이전트처럼 반복성이 높고 데이터 민감도가 큰 작업은 로컬의 경제성이 커질 수 있다.
Privacy도 비용 못지않게 중요하다. 법률문서, 의료정보, 소스코드, 고객정보처럼 외부 전송 자체가 부담인 데이터는 로컬 추론의 가치가 단순한 토큰 절감보다 크다. 데이터가 장치 밖으로 나가지 않는 구조는 보안·컴플라이언스 비용까지 바꿀 수 있다.
투자자는 Nvidia가 지고 Apple이 이긴다고 보면 안 된다
이 변화는 ‘클라우드 AI의 종말’이 아니다. 오히려 AI가 더 널리 쓰이면서 연산이 계층화된다는 쪽이 더 현실적이다. 가장 어려운 학습과 추론은 Nvidia 중심 데이터센터에서 처리하고, 반복적인 개인·기업 업무는 Apple이나 Windows PC 같은 엔드포인트에서 처리할 수 있다. 두 시장은 동시에 커질 수 있다.
Apple의 약점도 분명하다. Reuters가 인용한 IDC 자료에서 Apple의 기업용 데스크톱·노트북 점유율은 약 4.6%, Windows는 91.3%다. 기업 IT 표준, 관리도구, 소프트웨어 호환성은 여전히 Microsoft 생태계가 압도적이다. Apple의 로컬 AI 경제학이 기술적으로 매력적이어도 대규모 기업 도입이 자동으로 따라오는 것은 아니다.
반대로 Apple의 강점은 이미 배포된 기기다. Mac뿐 아니라 iPhone과 iPad까지 같은 설계 철학을 공유한다. AI가 클라우드와 로컬로 분산될수록 Apple은 ‘가장 큰 AI 모델 회사’가 아니라 ‘거대한 추론 엔드포인트를 보유한 회사’로 다시 평가받을 여지가 있다.
그 손익분기점은 기업마다 다르다. 모델 크기, 동시 사용자 수, 전력비, 장비 가동률, 소프트웨어 최적화, 클라우드 가격이 모두 영향을 준다.
따라서 지금 단계에서 ‘Mac이 클라우드보다 싸다’고 일반화하는 것은 이르다. 다만 기업이 AI 예산을 API 사용료만으로 계산하던 시대에서, 워크로드별로 Cloud와 Local을 나누는 시대로 이동하고 있다는 신호는 분명하다.
AI의 미래는 더 큰 데이터센터만이 아니다. 지능의 단가가 충분히 내려가면, AI는 다시 우리의 책상과 주머니로 내려온다.
- 아니다. 대형 모델을 로컬에서 구동할 수 있다는 것과 hyperscale 데이터센터의 처리량, 가용성, 수천·수만 사용자 동시 서비스를 제공하는 것은 다른 문제다.
- 반드시 그렇지 않다. 학습과 초대형 추론은 계속 클라우드 중심일 가능성이 높다. 로컬 AI는 일부 반복적·민감한 추론을 분산시키는 역할에 가깝다.
- 아니다. Microsoft와 Nvidia도 온디바이스 AI를 확대하고 있고 Qualcomm, AMD, 메모리·스토리지 업체도 수혜 후보가 될 수 있다. 핵심은 특정 회사보다 연산 위치가 다양해진다는 구조 변화다.
- 사용량이 적다면 클라우드가 대체로 편하고 경제적이다. 로컬의 장점은 높은 사용량, 개인정보 보호, 낮은 지연시간, 오프라인 사용이 중요할수록 커진다.
체크 포인트
인사이트 타임스 편집부
