아크릴 GPUBASE, GPU 활용률 90%로 끌어올려 비용 절감

아크릴 김종율 이사는 8일 서울 코엑스에서 열린 'AI 페스타 26'에서 AI 인프라 오케스트레이션 플랫폼 'GPUBASE'를 소개했다. GPUBASE는 여러 서버에 분산된 GPU를 하나의 자원 풀로 관리하고 워크로드별 자원을 배분해 GPU 활용률을 높이는 솔루션이다. 김 이사는 실제 업무 환경에서 GPU 할당률은 90%지만 실제 연산 가동률은 50~60%에 머무르는 경우가 있다며, GPUBASE 적용 시 이를 90% 이상으로 끌어올릴 수 있다고 설명했다. 아크릴은 AWS, 구글, 마이크로소프트 등 3대 클라우드에서 총 1272장의 GPU로 검증한 결과 AI 학습 속도가 최대 24배 향상됐다고 밝혔다. 김 이사는 GPU 등 AI 반도체를 하나의 풀로 운영해 특정 공급사에 종속되지 않는 연산 주권 확보가 중요하다고 강조했다.

이 글에 나온 것