검색 결과
"멀티모달"
뉴스
시스템반도체·팹리스
시스템반도체·팹리스
엣지 AI MCU 등장, 멀티모달 연산과 계층형 메모리 결합
EE Times는 클라우드 기반 AI 모델을 전통적인 마이크로컨트롤러(MCU) 영역으로 가져온 새로운 엣지 AI MCU를 소개했다. 이 MCU는 멀티모달 연산 기능을 탑재해 여러 형태의 데이터를 처리할 수 있도록 설계됐다. 또한 계층형(tiered) 메모리 구조를 적용해 온디바이스 AI 처리 요구에 대응한다는 점이 특징으로 제시됐다. 기사는 MCU가 지속적인 진화를 거쳐 엣지 AI라는 다음 전환점에 도달했다고 설명했다.
노타, NeurIPS 2026 채택 — 멀티모달 MoE 모델 경량화 기술
노타는 멀티모달 대규모언어모델을 위한 전문가 프루닝 기술 논문이 AI 학술대회 NeurIPS 2026 메인트랙에 채택됐다고 밝혔다. 이 기술은 혼합전문가(MoE) 모델에서 언어와 이미지 이해 능력을 함께 고려해 전문가 모듈을 제거하는 방식이다. 약 310억 파라미터 모델에서 전문가 모듈을 25% 제거했을 때 원본 성능의 98%를, 50% 제거했을 때도 91%를 유지했다. GPU 메모리 사용량은 58GB에서 31GB로 약 47% 줄어 40GB급 GPU 한 장으로도 구동이 가능해졌다. 노타는 이 기술을 자사 AI 최적화 플랫폼 넷츠프레소에 반영해 멀티모달·MoE 모델 지원을 확대할 계획이다.