출처: 뉴스핌 기사 캡처
챗지피티(ChatGPT) 개발사 오픈AI가 브로드컴과 함께 자체 개발한 인공지능 칩 ‘할라피뇨’가 테스트에서 엔비디아의 최상위 프로세서보다 앞선 성능을 보였다고 공개했습니다. AI 인프라를 직접 쥐려는 오픈AI의 첫 성과가 눈길을 끕니다.
무슨 일이 있었나
25일(현지 시간) 블룸버그 보도에 따르면 할라피뇨 칩은 전력 단위당 처리할 수 있는 AI 작업량과 응답 속도 두 부문에서 엔비디아 GB300과 비교해 앞선 것으로 나타났습니다. 칩 개발을 책임지는 리처드 호 오픈AI 칩 책임자는 700와트의 낮은 전력으로도 우수한 성능을 낸다고 설명했습니다. 오픈AI는 올해 하반기부터 자사 AI 모델 서비스에 이 칩을 사용할 계획입니다.
배경
할라피뇨는 모델 학습이 아닌, 완성된 모델이 사용자 요청에 답하는 ‘추론’ 단계에 특화해 설계됐습니다. 오픈AI는 맞춤형 칩 업체 브로드컴과 협력해 이례적으로 빠른 속도로 개발을 마쳤습니다. 그동안 구글, 아마존, 마이크로소프트 등 빅테크가 잇달아 자체 칩을 만들어 왔고, 오픈AI 역시 엔비디아 의존도를 낮추고 데이터센터 운영 비용을 아리기 위해 이 흐름에 합류했습니다. 에치드, 매트엑스 등 스타트업들도 저전력 추론 칩 경쟁에 뛰어들었습니다.
전망
다만 할라피뇨는 막 출하가 시작된 엔비디아 차세대 칩 ‘베라 루빈’과는 비교 테스트를 거치지 않았고, 학습용이 아닌 점은 한계로 꼽힙니다. 오픈AI는 컴퓨팅 수요가 워낙 크다며 여러 공급업체와의 계약을 당분간 유지하겠다는 입장입니다. 그럼에도 대형 AI 기업들의 자체 칩 확보 경쟁이 격화되면 엔비디아 독주 구도에 금이 갈 수 있다는 관측이 나옵니다. 관련 흐름은 AI 인공지능 뉴스에서, 반도체 산업 소식은 반도체 뉴스에서 확인할 수 있습니다.
자주 묻는 질문
Q. 할라피뇨는 어떤 용도의 칩인가요?
A. AI 모델이 사용자 질문에 답하거나 작업을 처리하는 추론 단계에 특화된 칩입니다.
Q. 엔비디아 칩보다 무엇이 나은가요?
A. 공개 벤치마크에서 전력당 처리량과 응답 속도가 GB300보다 앞선 것으로 측정됐습니다.
Q. 누구와 함께 개부했나요?
A. 맞춤형 반도체 업체 브로드컴과 협력해 개발했습니다.
Q. 언제 실제 서비스에 쓰이나요?
A. 올해 하반기부터 오픈AI의 AI 모델 지원에 사용될 계획입니다.
Q. 엔비디아를 완전히 대체하나요?
A. 아니요. 학습용 칩이 아니고, 오픈AI는 수요가 커서 여러 공급업체 계약을 유지합니다.