Arm, 에이전틱 AI용 CPU 성능평가 프레임워크 제안

Arm은 에이전틱 AI에서 가속기가 모델 실행을 담당하는 동안 CPU가 반복 모델 호출, 검색, 상태 관리, 툴 실행, 정책 검증 등 주변 시스템 경로를 조율한다고 분석했다. 이를 평가하기 위해 CPU 작업을 공통 에이전트 프레임워크 기능과 사용 사례별 툴 워크로드로 구분하고, 다섯 가지 대표 워크로드 유형을 제시했다. 측정 방법으로는 재현성과 요인 분리에 중점을 둔 컴포넌트 벤치마킹과 실제 작업 결과에 중점을 둔 종단간 벤치마킹을 함께 제안했다. 완성된 벤치마크 수트 제시가 목적이 아니라 측정 경계와 워크로드 분류 등 업계가 합의해야 할 방법론적 공백을 정의하는 데 목적이 있다고 밝혔다. 특히 재현 가능한 에이전트 궤적(replayable trajectories)이 CPU 작업을 모델·네트워크 효과와 분리하고 비결정적 에이전트 행동에 따른 변동성을 줄이는 방법이 될 수 있다고 설명했다.

이 글에 나온 것