래블업 컨티넘, 여러 AI 모델 사용량·비용 한곳에서 관리

래블업이 서울 코엑스 'AI 페스타 26'에서 AI 인프라 관리 플랫폼 '백엔드닷AI'와 AI 모델 통합 운영 서비스 '컨티넘'을 공개했다. 백엔드닷AI는 기업·연구기관의 GPU 등 컴퓨팅 자원을 사용자와 업무별로 나눠 쓰도록 관리하는 플랫폼이다. 컨티넘은 여러 AI 모델을 연결해 사용자 요청을 적절한 모델로 보내고, 모델별 토큰 사용량과 비용을 한곳에서 확인하도록 지원한다. 부스에서는 외부 네트워크와 분리된 환경에서 소형 AI 모델을 구동하며 사용량을 집계하는 시연도 진행했다. 래블업은 현재 120여 고객사를 확보했다고 밝혔다.
이 글에 나온 것
이 글은 원문을 요약한 큐레이션입니다. 제목은 요약에 맞춰 새로 붙였습니다. 수치와 단위는 원문 표기를 유지했습니다. 전체 내용은 원 매체에서 읽어 주세요.원문: ZDNet Korea 「래블업, GPU 넘어 AI 토큰 사용료까지 통합 관리」
ZDNet Korea 원문 보기 ↗
