전기가 부족하면 AI 계산을 잠깐 멈추면 안 될까

전력망은 ‘평균’이 아니라 ‘최악의 몇 시간’을 준비한다

전기는 다른 상품과 다르다. 수요가 몰리는 순간에도 공급과 소비가 거의 실시간으로 맞아야 한다. 하루 평균 사용량이 70이라도 저녁 피크에 100까지 올라가면, 발전소와 송전망은 결국 100을 감당하도록 설계해야 한다.

문제는 그 100이 하루 종일 필요한 것이 아니라는 데 있다. 상당한 설비가 피크 몇 시간 때문에 존재한다. 그래서 전력산업에는 오래전부터 Demand Response, 수요반응이라는 제도가 있었다. 전력망이 위험할 때 공장이 생산을 잠시 줄이고, 그 대가를 받는 방식이다.

이번 AEMA가 흥미로운 이유는 이 오래된 아이디어를 AI 데이터센터에 적용하려 하기 때문이다. Nvidia의 공식 설명에 따르면 유연한 데이터센터는 계산 작업을 옮기고, 배터리를 방전하고, 현장 발전원을 활용하면서 전력망에서 끌어오는 전력을 줄일 수 있다. 핵심은 데이터센터를 단순한 전력 소비자가 아니라 조절 가능한 자원으로 보는 것이다.

모든 AI 계산을 멈추자는 이야기는 아니다

사람이 지금 던진 ChatGPT 질문, 실시간 검색, 금융거래처럼 지연이 허용되지 않는 작업은 쉽게 미룰 수 없다. 하지만 AI 데이터센터의 모든 계산이 실시간인 것은 아니다.

모델 학습의 일부 구간, 배치형 추론, 데이터 전처리, 합성데이터 생성, 체크포인트 저장, 일부 연구 작업은 수십 분 또는 몇 시간의 시간 이동이 가능하다. Google은 이미 비긴급 머신러닝 작업을 시간이나 지역에 따라 옮기는 방식으로 수요반응을 운영하고 있으며, 2026년 3월 미국 여러 전력회사와의 장기 계약에 포함된 수요반응 용량이 합계 1GW에 도달했다고 밝혔다.

1GW 데이터센터를 ‘항상 1GW’로 보지 않는 순간

전력회사 입장에서 지금의 대형 데이터센터는 까다로운 고객이다. 막대한 전력을 요구하고, 그 전력을 24시간 안정적으로 공급해 달라고 한다. 그래서 새 데이터센터가 들어오면 발전과 송전 설비를 함께 늘려야 한다는 계산이 나온다.

하지만 1GW 데이터센터가 전력망이 가장 위험한 몇 시간 동안 200MW를 줄일 수 있고, 그 능력이 계약과 기술로 검증돼 있다면 이야기가 달라진다. 전력회사는 데이터센터 전체를 “언제나 최대출력으로 돌아가는 부하”로 가정할 필요가 줄어든다.

AEMA는 바로 이 지점을 제도화하려 한다. 응답 속도, 얼마나 오래 줄일 수 있는지, 예측 가능성, 비상상황에서 실제로 약속한 만큼 줄이는지를 표준화하자는 것이다. 그 대신 신뢰할 수 있는 유연성을 제공하는 데이터센터에는 더 빠른 계통연결 경로를 만들자는 논리다.

Nvidia의 경쟁자는 이제 AMD만이 아니다

Nvidia가 이 문제에 직접 들어오는 이유는 단순하다. 전력이 없으면 GPU를 팔아도 켤 수 없다. AI 인프라의 병목이 실리콘에서 전력과 계통연결로 이동할수록, GPU 공급능력만 늘려서는 매출로 이어지는 시점을 앞당길 수 없다.

Nvidia의 DSX Flex는 전력망의 감축 요청, 수요반응, 가격신호에 맞춰 AI workload와 전력원을 조정하도록 설계된 소프트웨어 계층이다. Emerald AI의 Conductor 역시 전력회사의 신호와 데이터센터의 컴퓨팅 부하를 연결한다. Nvidia가 “AI Factory”라는 표현을 강조하는 이유도 여기서 더 선명해진다.

공장은 기계의 최고속도만으로 생산성이 결정되지 않는다. 전기요금, 설비가동률, 유지보수, 피크수요, 병목을 함께 관리한다. AI 데이터센터도 같은 단계로 들어가고 있다.

지금까지 AI 성능 경쟁의 언어가 Tokens per GPU였다면, 전력 병목이 커질수록 Tokens per Watt, 그리고 더 나아가 Tokens per Grid Capacity가 중요한 경제성 지표가 될 가능성이 있다. 같은 1GW를 확보한 기업이라도 전력 피크를 얼마나 잘 피하고 GPU 가동률을 얼마나 높이느냐에 따라 실제 산출량이 달라질 수 있기 때문이다.

100GW라는 숫자는 매력적이지만, 그대로 믿으면 안 된다

TechCrunch는 AEMA 측 설명을 인용해 비긴급 작업을 멈추거나 다른 지역으로 옮기는 방식이 광범위하게 적용되면 기존 전력망에 약 100GW의 추가 데이터센터 연결 여력이 생길 수 있다고 전했다.

하지만 이것은 이미 확보된 발전용량도, Nvidia나 Google의 확정 투자계획도 아니다. 실제 효과는 지역별 송전 제약, 데이터센터 workload 구성, 배터리 규모, 감축 가능한 시간, 전력회사의 운영규칙에 따라 크게 달라진다. Emerald AI 측도 수요 유연성이 신규 발전소의 필요를 줄일 수는 있지만 없애지는 못한다고 설명한다.

따라서 이 기술은 “발전소를 안 지어도 된다”는 해법보다 발전소와 송전망이 완성되기 전까지 기존 인프라를 더 효율적으로 쓰는 방법에 가깝다. 공급 확대와 수요 조절은 서로 대체재가 아니라 보완재다.

AI 전력문제의 답은 발전소를 얼마나 많이 짓느냐뿐 아니라, 이미 있는 전기를 얼마나 영리하게 쓰느냐에 있을 수도 있다.