AI 전쟁에 처음 브레이크가 걸렸다: 아모데이·올트먼·머스크의 ‘집단 감속’이 바꾸는 것

AI 업계의 경쟁 공식에 처음 ‘속도’가 변수로 들어왔다

지금까지 프런티어 AI 경쟁의 기본 공식은 단순했다. 더 큰 컴퓨팅을 투입하고, 더 강한 모델을 먼저 만들고, 제품에 더 빨리 배포하는 쪽이 시장을 가져간다는 것이었다.

9월 12일 이 공식에 균열이 생겼다. Anthropic CEO 다리오 아모데이는 “모델 능력 향상 속도를 늦춰야 한다”고 공개적으로 주장했다. 그가 제안한 것은 연구 중단이 아니다. 안전기술이 모델 능력을 따라잡을 수 있도록 ‘프런티어의 속도’를 의도적으로 조절하자는 것이다.

구상은 세 단계다. 첫째, 주요 AI 회사 내부에 상시적인 외부·독립 평가자를 두고 실제 모델과 개발 과정에 깊게 접근하게 한다. 둘째, 미국을 포함한 민주주의 국가의 프런티어 연구소들이 공통 안전기준을 만들고 이를 검증 가능한 방식으로 적용한다. 셋째, 장기적으로는 중국을 포함한 국제적 위험관리 원칙을 만든다.

중요한 변화는 제안자보다 동의한 사람들이다. OpenAI의 샘 올트먼과 xAI의 일론 머스크가 공개적으로 지지했다. 서로 인재와 컴퓨팅, 고객을 놓고 경쟁하는 최고경영자들이 “더 빠른 것이 항상 더 좋은 것은 아니다”라는 문제의식에 동시에 올라선 것이다.

6~12개월 뒤 인터넷 장악? 숫자보다 ‘왜 지금 이런 말이 나왔나’를 봐야 한다

아모데이는 현재 추세가 이어질 경우 6~12개월 안에 더 강력한 AI 에이전트 집단이 광범위한 인터넷 시스템을 공격하고, 지속적인 봇넷을 구성해 수천억달러의 피해를 낼 수 있는 능력에 도달할 가능성을 경고했다.

이 숫자는 반드시 조심해서 읽어야 한다. “6~12개월 뒤 그런 사건이 일어난다”는 예측이 아니다. 현재 능력 향상 속도와 최근의 에이전트 사고를 외삽한 위험 시나리오다. 실제 발생확률이나 정확한 기술 일정은 확인할 수 없다.

그럼에도 이 경고를 완전히 공포 마케팅으로 치부하기도 어렵다. OpenAI는 9월 초 GPT-6 Astra가 자체 Preparedness Framework에서 사이버보안 능력 ‘Critical’ 기준에 처음 도달했다고 밝혔다. 회사 설명대로라면 적절한 도구와 접근권한이 주어졌을 때 사람의 단계별 지시 없이도 알려지지 않은 취약점을 찾고, 보호 수준이 높은 다수 시스템을 상대로 공격 방법을 개발할 수 있는 수준이다.

더 중요한 사실은 OpenAI가 안전장치를 강화하는 동안 Astra의 일부 개발과 출시를 실제로 늦췄다고 공개했다는 점이다. ‘AI가 위험할 수 있다’는 선언과 ‘제품 일정을 늦췄다’는 경영 판단은 무게가 다르다. 안전 문제가 처음으로 출시 속도의 비용으로 잡히기 시작했다.

OpenAI의 IPO 보류가 보여주는 두 번째 변화

같은 날 샘 올트먼은 OpenAI가 2026년에는 IPO를 추진하지 않겠다고 밝혔다. 올해 초 OpenAI가 미국 상장을 위한 비공개 절차에 들어갔던 점을 생각하면 방향 변화가 분명하다.

올트먼은 지금의 AI 안전 문제를 고려하면 상장이 적절하지 않다는 취지로 설명했다. 2027년 이후 가능성은 남아 있지만, 최소한 올해 공개시장 자본을 끌어오는 일정은 사라졌다.

이것을 “OpenAI가 돈이 부족해졌다”거나 “컴퓨팅 수요가 줄었다”는 신호로 읽을 근거는 없다. 오히려 반대일 가능성도 있다. 프런티어 모델 개발은 여전히 막대한 데이터센터, 전력, 네트워크, GPU를 요구한다.

달라지는 것은 자본의 종류다. IPO가 늦어지면 공개시장의 가격발견을 거치지 않은 채 전략적 투자자, 사모자본, 클라우드 파트너에 대한 의존이 더 길어진다. 동시에 Anthropic은 여전히 2026년 상장을 준비하고 있다. 예정대로 진행된다면 시장은 Anthropic을 통해 처음으로 초대형 프런티어 AI 기업의 성장률, 손실, 컴퓨팅 계약, 현금소진과 밸류에이션을 공개시장 기준으로 평가하게 된다.

따라서 Anthropic IPO는 Anthropic 한 회사의 이벤트가 아니다. OpenAI의 미래 가치까지 간접적으로 가격 매기는 첫 대형 시험대가 될 수 있다.

NVIDIA에 악재인가? 당장은 그렇게 보기 어렵다

가장 쉬운 오해는 “모델 개발을 늦추면 GPU도 덜 산다”는 것이다. 아직은 이 결론으로 가기 이르다.

첫째, 감속의 대상이 무엇인지 정해지지 않았다. 학습 자체를 늦추는지, 특정 고위험 능력의 확장을 늦추는지, 공개 출시만 늦추는지에 따라 컴퓨팅 수요는 전혀 다르게 움직인다.

둘째, 안전은 공짜가 아니다. 더 많은 사전 평가, 레드팀 테스트, 샌드박스, 에이전트 모니터링, 이상행동 탐지, 별도 검증 모델이 필요해질수록 추론 연산은 오히려 늘 수 있다. 강한 모델 하나를 만드는 비용뿐 아니라, 그 모델이 사고를 치지 않는지 지속적으로 감시하는 ‘안전 컴퓨팅’이 새로운 비용 항목이 될 수 있다.

셋째, 안전기준이 강화될수록 자본력이 큰 기업이 유리하다. 독립 평가, 폐쇄형 테스트 인프라, 보안 인력, 컴플라이언스 비용을 감당하기 어려운 작은 연구소는 프런티어 경쟁에서 밀릴 수 있다. 규제가 비용이라면, 동시에 상위 사업자에게는 진입장벽이다.

따라서 NVIDIA, Microsoft, Amazon, Alphabet의 실적 추정치를 지금 당장 낮출 근거는 부족하다. 다만 ‘매년 더 강한 모델 → 빠른 제품화 → 즉시 매출 증가’라는 직선적 투자 스토리는 조금 더 복잡해졌다. 모델이 강해질수록 배포 전 검증 시간이 길어질 수 있기 때문이다.