메타 MTIA 400, 훈련·광고추론 겸용 브로드컴 XPU 칩렛

메타가 Hot Chips 컨퍼런스에서 자체 AI 가속기 MTIA 400을 공개했다. 이 칩은 LLM 훈련과 광고 추천 시스템(DLRM) 추론을 함께 처리하도록 설계됐으며, 브로드컴의 XPU 기술을 활용한 이종 멀티다이 구조로 3nm 공정 컴퓨트 칩렛과 HBM3e 메모리, I/O 칩렛으로 구성됐다. 랙 하나에 컴퓨트 블레이드 18개와 스위치 블레이드 8개를 탑재해 총 72개 가속기를 하나의 도메인으로 묶는다. 메타는 추론에 특화된 후속 칩 MTIA 450과 MTIA 500도 2027년 출시를 목표로 개발 중이다.
이 글에 나온 것
이 글은 원문을 요약한 큐레이션입니다. 제목은 요약에 맞춰 새로 붙였습니다. 수치와 단위는 원문 표기를 유지했습니다. 전체 내용은 원 매체에서 읽어 주세요.원문: The Register 「Meta's new MTIA 400 chip has a split personality: Training AI and serving ads」
The Register 원문 보기 ↗
