AI의 다음 KPI는 ‘토큰 가격’이 아니다. 성공한 업무 하나를 얼마에 끝내는가

AI의 새 단위는 ‘토큰’이 아니라 ‘성공한 업무’다

기업이 실제로 지불하는 AI 비용은 API 가격표만으로 계산되지 않는다. 모델이 한 번에 일을 끝내지 못하면 토큰을 더 쓰고, 툴을 다시 호출하고, 사람이 결과를 고치고, 보안·데이터 통합·운영 비용까지 붙는다.

따라서 앞으로 봐야 할 숫자는 Cost per Successful Task, Time to Completion, Human Intervention Rate, 그리고 AI 1달러가 만들어내는 매출 또는 노동비 절감이다. 이 지표들이 모델, 클라우드, 반도체, 기업용 소프트웨어를 같은 언어로 비교하게 만들 가능성이 높다.

Snorkel AI - GPU 다음 병목은 ‘좋은 문제와 좋은 채점’이다

Snorkel AI는 9월 22일 3억5,000만달러의 Series E를 발표했고 기업가치는 35억달러가 됐다. 더 눈에 띄는 숫자는 매출이다. 회사는 2025년 시작한 데이터 서비스 사업 이후 18배 이상 성장해 연환산 매출 런레이트가 3억7,500만달러를 돌파했다고 밝혔다.

이 숫자가 의미하는 것은 데이터 라벨링의 부활이 아니다. 프런티어 모델이 코딩, 수학, 법률, 의료, 과학처럼 정답을 만들고 검증하기 어려운 영역으로 들어가면서 필요한 것은 단순한 ‘정답지’가 아니라 복잡한 업무를 어떻게 평가할지 설계하는 보상 함수, 루브릭, 강화학습 환경이다.

모델이 처음부터 더 정확하면 추론 토큰, 툴 호출, 롤백, 사람의 재작업이 함께 줄어든다. Snorkel이 AI 비용곡선에서 차지하는 위치는 여기다. 다만 투자자는 런레이트를 확정 연매출로 보면 안 된다. 고객 집중도와 서비스 매출의 인력 의존도, 그리고 소프트웨어형 고마진 매출로 얼마나 전환되는지가 더 중요하다.

Anthropic - 20% 가격 인하보다 40% 작업비 절감이 더 중요하다

Anthropic은 Claude Opus 5.5가 기본 설정의 일반적 워크로드에서 Opus 5보다 약 40% 낮은 비용으로 실행된다고 밝혔다. 가격표는 20% 내렸는데 업무 비용은 40% 줄었다. 회사 설명대로라면 새 모델이 더 적은 토큰으로 같은 일을 끝내기 때문이다.

에이전트 시대에는 이 차이가 크다. 장시간 코딩이나 업무 자동화에서는 같은 프롬프트를 한 번 처리하는 비용보다, 얼마나 오래 일하고 몇 번 실패하며 얼마나 많은 컨텍스트를 반복해서 읽는지가 비용을 결정한다. 그래서 캐시 읽기 60% 인하는 일반 채팅보다 에이전트 워크로드에서 더 의미가 크다.

다만 40% 절감은 Anthropic 자체 테스트다. 기업 고객은 자신의 코드베이스, 문서, 툴체인과 보안 조건에서 성공률과 인간 검수 시간까지 포함한 A/B 테스트를 해야 한다.

Apple - 모델 가격이 아니라 ‘추론 장소’의 가격을 바꾼다

Apple과 LM Studio는 WWDC 2026에서 Thunderbolt 5와 RDMA로 연결한 4대의 Mac Studio에서 1조 매개변수 Kimi K2.6을 구동했다. 이어 Apple은 8월 M5 Ultra Mac Studio를 공개하며 대당 최대 512GB 통합 메모리와 다중 Mac Studio 클러스터링을 공식 지원했다.

이것이 Nvidia 데이터센터를 대체한다는 뜻은 아니다. 대규모 학습과 수천·수만 명이 동시에 쓰는 서비스는 여전히 데이터센터 GPU가 유리하다. Apple이 현실적으로 노리는 곳은 반복 사용량이 높고 데이터 반출이 어렵고 동시접속이 상대적으로 낮은 기업 내부 추론이다.

투자 지도가 바뀌는 지점