이 기사는 인공지능(AI) 번역을 바탕으로 전문 기자들의 검증과 분석을 거쳐 생산된 콘텐츠로, 원문은 8월 25일 블룸버그통신 기사(OpenAI Claims Its New Chips Can Outperform Nvidia Processors in Tests)입니다.

[서울=뉴스핌] 김현영 기자 = 오픈AI가 자체 개발한 새 칩 '할라피뇨'가 테스트에서 엔비디아(NVDA)의 현재 제품군보다 우수한 성능을 보였다고 밝혔다. 이는 자체 AI 프로세서 개발에서 이 회사가 이뤄낸 진전을 뒷받침하는 결과다.

테스트에서 할라피뇨 프로세서는 전력 단위당 처리할 수 있는 AI 작업량과 응답 반환 속도 두 부문에서 앞선 것으로 나타났다. 오픈AI의 칩 개발 책임자인 리처드 호는 인터뷰에서 이 반도체가 해당 테스트에 쓰인 공개 벤치마킹 시스템에서 최상위 옵션이었던 엔비디아의 GB300과 비교 측정됐다고 밝혔다.

챗GPT 개발사인 오픈AI는 올해 하반기부터 자사 AI 모델을 지원하는 데 이 새 칩을 사용하기 시작할 계획이며, 이는 자체 AI 인프라를 구축하려는 보다 폭넓은 노력의 일환이다. 이로써 오픈AI는 엔비디아가 주도하고 있는 자체 AI 칩 개발 경쟁에 뛰어든 여러 기업 대열에 합류하게 됐다.

오픈AI는 다양한 고객을 위해 맞춤형 칩을 제작하는 브로드컴(AVGO)과의 협력을 통해 할라피뇨를 개발했다. 지난해 협력 관계를 발표한 두 회사는 올해 6월 이 프로세서가 이례적으로 빠른 속도로 개발됐다는 점을 강조한 바 있다.

일반적으로 AI 작업 처리에 강한 칩과 빠른 응답에 강한 칩은 서로 다른 경우가 많지만, 할라피뇨는 두 가지 모두를 갖추고 있다고 호는 설명했다. 그는 오픈AI가 어떤 AI 모델을 할라피뇨에서 구동할지 결정할 것이며, 이를 통해 고객들이 비용 절감이나 성능 향상 중 원하는 옵션을 선택할 수 있게 될 것이라고 덧붙였다.

호는 "실험실 환경에서 할라피뇨는 높은 처리량 영역, 즉 더 많은 고객에게 더 저렴하게 서비스를 제공할 수 있는 능력과 함께, 낮은 지연시간 영역, 즉 이를 중시하는 고객들을 위해 매우 빠른 응답 속도를 낼 수 있는 능력 모두에서 성능을 보여주고 있다"고 말했다.

이 칩이 700와트라는 낮은 전압에서도 우수한 성능을 내고 있기 때문에, 할라피뇨는 오픈AI가 전력이 핵심 비용 요소인 데이터센터 운영 비용을 절감하는 데 도움을 줄 것이라고 그는 말했다.

할라피뇨는 이제 막 출하를 시작한 엔비디아의 신세대 칩 '베라 루빈'과는 비교 테스트를 거치지 않았다. 또한 엔비디아 기술이 강점을 보이는 AI 모델 훈련용으로 설계된 것도 아니다. 할라피뇨는 모델이 이미 훈련을 마치고 프롬프트에 응답하거나 작업을 처리하기 시작하는 단계인 추론 단계를 위해 설계됐다.

할라피뇨의 속도상 이점 덕분에 오픈AI는 기존에는 다른 종류의 메모리와 설계를 사용하는 칩으로만 가능했던 결과를 얻을 수 있게 됐다. 예를 들어 오픈AI는 현재 일부 모델에 세리브라스 시스템스(CBRS)의 기술을 사용하고 있는데, 이런 유형의 칩은 상대적으로 작은 모델에 가장 적합하다고 호는 설명했다.

반면 할라피뇨는 더 큰 모델도 처리할 수 있다고 그는 말했다. 다만 오픈AI의 기술이 세리브라스와 같은 공급업체를 가까운 시일 내에 대체하지는 않을 것이라고 덧붙였다.

그는 "우리는 컴퓨팅 자원에 대한 수요가 워낙 커서 그만큼 많은 공급업체와 계약을 맺은 것"이라며 "이런 상황은 당분간 계속될 것"이라고 말했다.

호는 25일(현지시간) 스탠퍼드대에서 열리는 '핫칩스' 콘퍼런스에서 발표할 예정이다. 그는 오픈AI가 이룬 성과를 공개적으로 밝힘으로써 AI 칩 분야의 혁신을 촉진하고자 한다고 말했다.

다른 스타트업들도 비슷한 구상을 추진하고 있다. 지난주 210억 달러 기업가치로 투자를 유치했다고 밝힌 에치드는 저전압 칩 출하를 시작하고 있다. 또 구글 반도체 사업부 출신 두 명이 설립한 매트X라는 회사는 높은 처리량과 낮은 지연시간을 동시에 달성하는 것을 목표로 하는 반도체를 개발 중이다.

오픈AI는 자사의 소형 오픈소스 모델과 함께 딥시크, 문샷AI의 타사 모델을 사용해 새 칩을 공개적으로 테스트했다. 할라피뇨는 오픈AI가 시험한 모델 중 가장 규모가 큰 문샷의 '키미' 모델에서 더 큰 성능 우위를 보였다. 내부 테스트에서는 아직 출시되지 않은 오픈AI의 대형 고급 모델 일부를 구동하는 데서도 우수한 성능을 보였다. 이는 이 칩의 설계가 "작업량이 더 크고 까다로워질수록 더 큰 가치를 발휘한다"는 것을 시사한다고 오픈AI는 블로그 게시물에서 밝혔다.

오픈AI는 자체 AI 모델을 활용해 이 칩을 더 빠르게 개발했다고 밝혔다. 두 번째 버전은 이미 개발이 상당히 진척된 상태다. 오픈AI는 설계 최종 단계인 테이프아웃을 "향후 몇 달 안에" 진행할 것으로 예상한다고 호는 말했다.

오픈AI는 전 세계에 구축 중인 방대한 AI 인프라의 비용을 낮추기 위해 이미 3세대 칩 개념 설계에도 착수한 상태다. 호는 "우리는 인프라 비용을 낮출 수 있는 비용 수준과 전력 수준에 도달해 있다"며 "이는 첫걸음일 뿐"이라고 말했다.

오픈AI가 자사의 성과를 홍보하며 이를 엔비디아와 비교하고 있지만, 호는 여전히 엔비디아를 핵심 칩 공급업체로 여기고 있다는 점을 애써 강조했다. 그는 "엔비디아는 정말 좋은 파트너이며, 우리는 앞으로도 엔비디아를 많이 필요로 할 것"이라고 말했다.

kimhyun01@newspim.com