검색 결과
"GPU 클러스터"
뉴스
장비·소재·부품
장비·소재·부품
에버퓨어 FlashBlade//EXA, GPU 클러스터 데이터 병목 해소
스토리지 업체 에버퓨어의 AI 인프라 VP 파 보테스는 Nvidia AI 데이터 플랫폼 참조설계를 기반으로 대규모 GPU 클러스터의 데이터 병목 문제를 해결하는 방안을 설명했다. 대규모 처리량 확보를 위해 FlashBlade//S와 FlashBlade//EXA를 제시했으며, EXA는 Nvidia AI 데이터 플랫폼 인증을 받아 초당 수백만 IOPS와 수백 GB의 대역폭, 수십억 건의 메타데이터 연산을 처리한다고 밝혔다. 또한 Key Value Accelerator(KVA)는 GPU의 KV 캐시 토큰 상태를 GPUDirect Storage(RDMA)를 통해 플래시로 오프로드해, 동일 문서를 다시 조회할 때 프리필 연산을 재수행하지 않도록 한다. 아울러 데이터가 여러 사일로에 흩어져 있을 때 이를 복사·이동하지 않고 활용하는 방식으로 Everpure Data Stream을 소개했다.
오라클-HPE, 주니퍼 네트워킹 다년 공급 확대 — GPU 클러스터 트래픽 대응
HPE는 오라클의 기가와트급 AI 데이터센터 확장을 지원하기 위해 전 세계 오라클 AI 데이터센터에 HPE 주니퍼 네트워킹을 구축하는 협력을 확대한다고 9일 밝혔다. 양사는 PTX·MX 라우팅과 QFX·EX 스위칭 플랫폼을 다년간 도입하고 장기 네트워킹 지원 서비스도 제공할 계획이다. 대규모 GPU 클러스터의 트래픽 혼잡 관리와 장애 복구를 위해 지능형 텔레메트리 기술 협력도 포함됐다. 협약에는 금융 협력도 담겨 HPE는 오라클에 HPE 보통주 매입 워런트를 발행했다.