에이전틱 AI 확산, CPU·GPU 수요 비율 재편 조짐

에이전틱 AI, 추론 모델, 혼합전문가(MoE) 구조 등 새로운 AI 워크로드가 확산되면서 컴퓨팅 자원 활용 방식이 바뀌고 있다고 반도체 업계 관계자들이 전했다. 기존 LLM은 주로 GPU에 의존했지만, 에이전트는 모델의 응답을 바탕으로 조건부 분기 결정을 내려야 해 CPU의 역할이 커지고 있다는 설명이다. 일부 업계 추정에 따르면 에이전틱 워크로드는 CPU와 GPU의 비율을 기존 1대4에서 1대1 수준까지 낮출 수 있다. Arm, Synopsys, Cadence, QCI, Delos Data 관계자들은 에이전틱 AI 수요 증가로 CPU에 대한 요구가 커지고 가격도 오르고 있다고 말했다.

이 글에 나온 것