엣지 AI 설계, NPU TOPS보다 메모리·보안이 관건

반도체 설계 전문지 Semiconductor Engineering은 엣지 AI 칩 설계 성능이 NPU의 최대 TOPS 수치보다 메모리 대역폭, 지연시간, 전력, 보안 등 시스템 전반의 효율성에 더 좌우된다고 보도했다. 임지네이션 테크놀로지스의 롭 피셔는 CPU와 NPU가 점차 GPU와 유사해지며 셋이 수렴하고 있어 SoC 전체 설계에 영향을 준다고 말했다. 인피니언, 케이던스, 지멘스 EDA, 램버스 관계자들은 빠르게 변화하는 AI 모델과 긴 반도체 개발 주기 사이의 시차 때문에 하드웨어-소프트웨어 공동설계, 이기종 컴퓨팅, 확장 가능한 메모리, 보안 내재화가 중요해지고 있다고 설명했다. 램버스의 폴 카라주바는 칩 설계 주기가 제품 출시보다 1년 이상 앞서기 때문에 설계 당시 가정했던 모델과 메모리·전력 조건이 바뀔 수밖에 없다고 지적했다.

이 글에 나온 것