화웨이 FLINT, HBF로 LLM 추론 가속화 — HBM 용량 계층 보완

화웨이, ETH 취리히, 화중과기대(HUST) 연구진이 고대역폭 플래시(HBF)를 활용해 LLM 추론을 가속하는 'FLINT' 기술 논문을 발표했다. HBF는 3D 적층 낸드플래시 기반으로 가속기 근접 위치에서 대용량 메모리를 제공해 HBM과 함께 용량 계층으로 활용할 수 있다는 설명이다. FLINT는 하드웨어 버스트 버퍼 컨트롤러로 HBF 읽기를 동적으로 병합·파이프라인화하고, 팬텀 플레인 리프레시 메커니즘으로 리프레시 동작을 추론 임계 경로에서 분리하며, 읽기 전용 FTL로 낸드플래시 관리를 최적화한다. 관련 내용은 arXiv에 프리프린트(arXiv:2608.25062)로 공개됐다.
이 글에 나온 것
이 글은 원문을 요약한 큐레이션입니다. 제목은 요약에 맞춰 새로 붙였습니다. 수치와 단위는 원문 표기를 유지했습니다. 전체 내용은 원 매체에서 읽어 주세요.원문: Semiconductor Engineering 「Workload-Driven HBF Substrate For Capacity-Scalable LLM Inference (Huawei, ETH Zurich, HUST)」
Semiconductor Engineering 원문 보기 ↗
