오픈AI가 브로드컴과 함께 개발한 자체 인공지능 추론 전용 칩 ‘할라페뇨’의 첫 성능 테스트 결과를 공개해 업계의 주목을 받고 있다. 엔비디아 최신 GPU와 비교해 전력 효율과 응답 속도에서 앞선 수치를 기록했다.
이미지: ZDNet Korea 기사 페이지 캡처
무엇을 공개했나
오픈AI가 이번에 공개한 자료에 따르면 할라페뇨 칩은 엔비디아 블랙웰 계열 대비 전력당 처리량에서 1.5배에서 최대 1.9배 높은 성능을 보였다. GPT-OSS 120B 모델 테스트에서는 엔비디아 GB200 시스템 대비 1.9배 높은 피크 혼합 토큰 처리량을 달성했다.
응답 지연 시간은 엔비디아 시스템 대비 1.7배에서 3.6배 감소했으며, 대화형 작업에서는 2.1배에서 4.1배 향상된 성능을 기록했다. 딥시크 R1 670B 모델 테스트에서는 엔비디아 GB300 시스템보다 약 3.6배 낮은 지연 시간을 확인했다.
할라페뇨는 700와트의 비교적 낮은 전력으로 동작하며, 13.4페타플롭스의 MXFP4 연산 능력과 초당 15.4테라바이트의 HBM4 대역폭, 216기가바이트 HBM4 메모리를 갖춘 것이 특징이다.
왜 직접 칩을 만드나
오픈AI는 그동안 엔비디아 GPU에 크게 의존해 왔다. 수요가 폭발하는 상황에서 공급 확보와 비용 절감을 위해 브로드컴과 손잡고 자체 칩을 개발해 온 것으로 알려졌다. 올해 말 데이터센터 도입을 시작으로 2027년에는 생산을 확대할 계획이다.
처리량과 지연 시간 사이에서 절충해야 했던 기존 하드웨어와 달리 하나의 구조로 높은 처리량과 낮은 지연 시간을 동시에 잡았다는 점도 오픈AI가 강조한 부분이다.
업계 반응과 전망
일부 전문가는 할라페뇨가 최신 HBM4 메모리를 쓰고 있어 엔비디아 차세대 플랫폼인 베라 루빈과 비교하는 것이 더 적절할 수 있다고 지적한다. 그럼에도 자체 칩으로 전환하려는 대형 인공지능 기업의 흐름이 뚜렷해지면서 엔비디아의 독주를 흔드는 변수로 평가된다.
앞으로 마이크로소프트와 구글, 아마존 등도 자체 칩을 확대하고 있어 인공지능 반도체 시장의 지형이 빠르게 바뀔 것이란 관측이 나온다.
자주 묻는 질문
Q. 할라페뇨는 어떤 칩인가요?
A. 오픈AI가 브로드컴과 공동 개발한 인공지능 추론 전용 칩입니다. 학습이 아니라 완성된 모델을 실제로 작동시키는 데 특화되어 있습니다.
Q. 엔비디아 칩보다 좋다는 뜻인가요?
A. 오픈AI가 공개한 특정 테스트에서 전력 효율과 지연 시간이 앞섰다는 의미입니다. 실제 데이터센터 환경에서의 종합 성능은 앞으로 검증이 더 필요합니다.
Q. 언제 실제로 쓰이나요?
A. 올해 말부터 오픈AI 데이터센터에 도입되고 2027년에 생산 규모를 키울 계획입니다.
Q. 한국 반도체 업계에는 어떤 영향이 있나요?
A. HBM4 같은 고성능 메모리 수요가 더 커질 수 있어 삼성전자와 SK하이닉스에 기회로 해석되는 면이 있습니다.