검색 결과
"HBF"
뉴스
메모리(DRAM·NAND·HBM)
메모리(DRAM·NAND·HBM)
화웨이 FLINT, HBF로 LLM 추론 가속화 — HBM 용량 계층 보완
화웨이, ETH 취리히, 화중과기대(HUST) 연구진이 고대역폭 플래시(HBF)를 활용해 LLM 추론을 가속하는 'FLINT' 기술 논문을 발표했다. HBF는 3D 적층 낸드플래시 기반으로 가속기 근접 위치에서 대용량 메모리를 제공해 HBM과 함께 용량 계층으로 활용할 수 있다는 설명이다. FLINT는 하드웨어 버스트 버퍼 컨트롤러로 HBF 읽기를 동적으로 병합·파이프라인화하고, 팬텀 플레인 리프레시 메커니즘으로 리프레시 동작을 추론 임계 경로에서 분리하며, 읽기 전용 FTL로 낸드플래시 관리를 최적화한다. 관련 내용은 arXiv에 프리프린트(arXiv:2608.25062)로 공개됐다.
옥스퍼드, HBM-HBF 혼합 메모리 구조 제안 — GPU 지연 최소화 목표
옥스퍼드대 연구진이 IEEE Computer Architecture Letters에 HBM과 HBF를 결합한 이기종 메모리 구조(HMA)에 관한 논문을 발표했다. 연구진은 고밀도인 HBF가 동일 대역폭에서 스택당 용량을 크게 늘려주지만, HBM을 HBF로 단순히 대체하면 HBF의 긴 지연시간이 GPU 스케줄러 성능을 저해한다고 지적했다. 이를 해결하기 위해 예측 기반 마이그레이션 정책으로 지연시간이 큰 HBF를 GPU의 critical path에서 배제하는 HMA를 제안했다. 저자는 Hakam Atassi, Noa Zilberman, Amro Awad다.