"DGX Spark"
뉴스
엔비디아 DGX 스파크 64GB 출시, 로컬 AI 메모리 부담 완화
엔비디아가 DGX 스파크 플랫폼에 64GB RAM 버전을 새로 선보였다. 기존 128GB 모델 대비 메모리 용량을 줄여 메모리 가격 상승에 따른 구매 부담을 낮추려는 취지다. 신형 64GB 모델은 Acer, Asus, Dell, Gigabyte, HP, MSI 등을 통해 10월 23일 출시되며, 기존과 동일한 20코어 Arm CPU, ConnectX-7 RDMA NIC, 273GB/s 공유 메모리 대역폭을 유지해 여러 대를 클러스터로 묶어 확장할 수 있다. 엔비디아는 클러스터 구성을 자동화하는 'Sync Cluster Assistant'와 모델을 자동으로 내려받아 구동하는 'Model Launcher' 기능도 함께 공개했다. 128GB 모델은 대형 모델 구동이나 파인튜닝 등 메모리가 더 필요한 작업을 위해 계속 판매된다.
맥 스튜디오 M5 울트라, 쿼드다이 구조로 로컬 LLM 공략
애플이 맥 프로를 단종하며 맥 스튜디오를 최상위 데스크톱으로 내세운 가운데, 톰스하드웨어가 M5 울트라 탑재 모델을 리뷰했다. M5 울트라는 두 개의 M5 맥스 다이를 UltraFusion으로 연결한 애플 최초의 쿼드다이 칩으로, 다이 간 대역폭이 4.4TB/s를 넘는다고 애플은 밝혔다. 메모리 대역폭은 최대 1.2TB/s이며, 유니파이드 메모리는 최대 256GB(추후 512GB 지원 예정)로 대형 LLM을 기기 내에서 구동할 수 있다. 긱벤치7에서 싱글코어 3,770점, 멀티코어 52,293점을 기록했고, 핸드브레이크 영상 변환에서는 AMD 스레드리퍼 9980X보다 빨랐지만 블렌더 CPU 렌더링에서는 스레드리퍼 7980X·9980X, 인텔 제온 w-3495X에 뒤처졌다.