"쿠버네티스"
뉴스
AI 시대 GPU·추론 관리 핵심으로 떠오른 쿠버네티스
생성형 AI 확산으로 기업들이 GPU 등 AI 가속기를 대규모로 도입하면서, 클라우드 컨테이너 관리 표준인 쿠버네티스가 GPU 자원 할당과 AI 모델 추론까지 관리하는 AI 인프라 플랫폼으로 확장되고 있다. 클라우드네이티브컴퓨팅재단(CNCF) 연례 조사에 따르면 생성형 AI 모델을 운영하는 조직의 66%가 일부 또는 전체 추론 워크로드를 쿠버네티스에서 운영한다. 최신 쿠버네티스에는 GPU 등 하드웨어 특성에 맞춰 자원을 세밀하게 배분하는 동적 자원 할당(DRA) 기능이 도입됐다. 구글클라우드는 구글 쿠버네티스 엔진(GKE)에서 GPU로 대규모언어모델을 배포·서비스하도록 지원하며, 국내에서는 오케스트로, 이노그리드, 나무에이엑스, 맨텍솔루션 등이 쿠버네티스 기반 플랫폼으로 GPU·NPU 자원 관리와 AI 추론 서비스를 넓히고 있다. 한국인공지능클라우드산업협회(KACI)는 기존 PaaS 지원분과위원회를 AI 네이티브 플랫폼(ANP) 분과위원회로 개편했다.
시장·실적·공급망쿠버네티스 1.37 출시, kube-dns·IPVS·cgroup v1 정리
클라우드 네이티브 컴퓨팅 파운데이션(CNCF)이 관리하는 쿠버네티스가 버전 1.37 'Garhwal'을 출시했다. 이번 릴리스에는 안정화 16건, 베타 23건, 알파 27건, 폐기 1건 등 총 67건의 변경 사항이 포함됐으며, 9년간 베타였던 Metrics API가 정식(GA) 버전으로 승격됐다. 기존 DNS 서버 kube-dns는 CoreDNS로 대체되고, kube-proxy의 IPVS 지원과 cgroup v1도 단계적으로 폐지된다. 릴리스 리드 디페시 라왓은 Metrics API가 베타 표기와 무관하게 이미 널리 실사용돼 왔다고 밝혔다.