비드래프트 브이코어, 추론용 NPU에서 AI 학습 구현

비드래프트가 추론 전용 NPU에서 AI 모델 학습까지 수행하는 소프트웨어 계층 '브이코어'를 개발했다고 13일 밝혔다. 엔비디아 쿠다처럼 NPU 연산을 지원하는 소프트웨어로, 동일 NPU에 적용 시 단일 이용자 추론 응답 속도는 3.8배, 서버 동시 처리 성능은 4.1배 향상됐다고 설명했다. 학습을 지원하지 않는 NPU에서도 트랜스포머 모델 학습에 성공했으며, 같은 서버 CPU 대비 약 170배의 학습 성능을 확인했다고 밝혔다. 비드래프트는 브이코어를 자체 판정 엔진과 재귀적 자가개선 모델에도 적용할 계획이며, 관련 특허 16건을 출원했다고 전했다.

이 글에 나온 것