AI 데이터센터 전력 소비, 소프트웨어 최적화로 절감 가능

국제에너지기구(IEA)는 2030년까지 AI용 전력 수요가 945TWh에 달해 일본의 현재 전체 전력 소비량과 맞먹을 것으로 전망했다. 데이터센터 전력의 약 60%를 서버가 소비하는 가운데, 미시간대 ML.Energy 연구진은 하드웨어 교체 없이 소프트웨어·알고리즘 최적화로도 전력을 줄일 수 있다고 밝혔다. 실제 Alibaba Qwen 3 235B 모델을 FP8로 추론하면 bfloat16 대비 에너지 소비가 3분의 1 줄었고, 연구진의 Perseus 학습 최적화 도구는 처리량을 유지하면서 학습 전력을 최대 30% 절감했다. 엔비디아도 Blackwell의 전력 프로파일 조정으로 성능 97% 이상을 유지하며 전력을 최대 15% 절감할 수 있다고 밝혔다. ETH 취리히 연구자는 워크로드를 전력망 상황에 맞춰 시간·지역별로 옮기는 방식도 대안으로 제시했다.

이 글에 나온 것