에버퓨어 FlashBlade//EXA, GPU 클러스터 데이터 병목 해소

스토리지 업체 에버퓨어의 AI 인프라 VP 파 보테스는 Nvidia AI 데이터 플랫폼 참조설계를 기반으로 대규모 GPU 클러스터의 데이터 병목 문제를 해결하는 방안을 설명했다. 대규모 처리량 확보를 위해 FlashBlade//S와 FlashBlade//EXA를 제시했으며, EXA는 Nvidia AI 데이터 플랫폼 인증을 받아 초당 수백만 IOPS와 수백 GB의 대역폭, 수십억 건의 메타데이터 연산을 처리한다고 밝혔다. 또한 Key Value Accelerator(KVA)는 GPU의 KV 캐시 토큰 상태를 GPUDirect Storage(RDMA)를 통해 플래시로 오프로드해, 동일 문서를 다시 조회할 때 프리필 연산을 재수행하지 않도록 한다. 아울러 데이터가 여러 사일로에 흩어져 있을 때 이를 복사·이동하지 않고 활용하는 방식으로 Everpure Data Stream을 소개했다.

이 글에 나온 것