OpenAI 젤라피뇨 인터뷰, 추론 ASIC 자체 개발 배경 공개

OpenAI는 8월 Hot Chips에서 공개한 추론 전용 ASIC '젤라피뇨' 관련 인터뷰에서 하드웨어 부문 VP 리처드 호가 개발 배경을 밝혔다. 그는 전력 제약 속에서 연산 효율을 극대화하는 것이 핵심 목표였으며, 모델과 하드웨어를 함께 설계할 수 있다는 점이 자체 칩 개발의 이유라고 설명했다. 외부 파운드리·설계사와 협업할 경우 연구 IP 유출 우려가 있어 내부 팀이 전 스택을 보고 소프트웨어·모델·하드웨어 중 어디서 최적화할지 판단했다고 밝혔다. SemiAnalysis의 InferenceX 벤치마크로 오픈소스 모델들을 테스트해 이 칩이 OpenAI 전용이 아니라 범용 트랜스포머 기반 LLM에서도 성능을 낸다는 점을 보였다고 덧붙였다. 그는 외부 고객 제공 가능성을 배제하지 않았지만 당분간은 OpenAI 자체 컴퓨팅 수요 충족이 우선이라고 말했다.

이 글에 나온 것