HBM 4-hi 스택 확산, 엔비디아 루빈 울트라 용량 축소로 이어져

SemiAnalysis는 차세대 AI 가속기에서 HBM 스택 높이가 12-hi에서 8-hi로, 나아가 4-hi로 낮아지는 흐름을 분석했다. 엔비디아는 루빈 울트라의 HBM 용량을 기존 루빈·블랙웰 울트라의 288GB에서 192GB로 낮췄는데, HBM 웨이퍼 공급 부족과 비용 부담이 배경이라고 설명했다. HBM 큐브 한 개가 제공하는 대역폭은 스택 높이와 무관하게 동일해, 스택을 낮춰도 대역폭 손실 없이 용량당 비용만 줄일 수 있다는 것이다. 매체는 추론 디코드처럼 대역폭이 중요한 워크로드에서는 용량보다 대역폭당 비용이 낮은 4-hi 구성이 유리하다고 분석했다.

이 글에 나온 것