이 기사는 인공지능(AI) 번역을 바탕으로 전문 기자들의 검증과 분석을 거쳐 생산된 콘텐츠로, 원문은 8월 24일 블룸버그통신 기사(Nvidia's Trillion-Dollar Chip Market Has Friends and Foes Closing In)입니다.

[서울=뉴스핌] 김현영 기자 = 아마존닷컴(AMZN)의 앤디 재시 최고경영자(CEO)는 올해 실적발표 콘퍼런스콜에서 대담한 발언을 이어가고 있다. 아마존은 여전히 엔비디아(NVDA)의 최대 고객사 중 하나이지만, 동시에 세계 최대 데이터센터 반도체 제조업체 중 하나이기도 하다는 것이다.

재시 CEO는 지난 7월 애널리스트들에게 아마존의 반도체 사업부가 독립 회사였다면 연간 매출이 250억 달러를 넘어설 것이라고 밝혔다. 매출 증가율은 세 자릿수에 달한다. 그는 "우리 반도체 사업에서 일어나고 있는 일에 대해 매우 고무돼 있다"고 말했다.

이런 자신감은 반도체 시장의 지형이 얼마나 빠르게 변화하고 있는지를 보여준다. 엔비디아는 인공지능(AI) 모델 훈련에 특히 강점을 지닌 데이터센터 프로세서 시장에서 여전히 압도적 1위를 지키고 있지만, 사방에서 경쟁이 거세지고 있다. 심지어 자사의 최대 고객들로부터도 도전을 받고 있다.

아마존을 비롯한 클라우드 컴퓨팅 업체들은 여전히 엔비디아 칩의 최대 구매자이면서도 자체 반도체 설계를 개발해 왔고, 심지어 이를 제3자에게 판매하기 시작했다. AMD(AMD)와 브로드컴(AVGO) 등 경쟁 반도체 업체들은 수백억 달러 규모의 데이터센터 매출을 올리고 있다. 여기에 다음 기술 혁신을 지원하려는 투자자들로부터 수십억 달러를 조달하는 스타트업들도 잇따르고 있다.

최근 며칠 사이 구글(GOOG)은 마벨테크놀로지(MRVL)와 반도체 개발 야망을 뒷받침할 계약을 체결했고, 엔비디아의 경쟁사인 세레브라스 시스템즈(CBRS)는 어떤 제품보다 빠르게 AI 프롬프트를 처리할 수 있다고 주장하는 새로운 컴퓨터를 공개했다. 한편 앤스로픽은 자체 반도체 진출을 모색하는 시점에 구글 출신의 반도체 베테랑을 영입했다.

세계에서 가장 기업가치가 높은 엔비디아를 따라잡기는 쉽지 않을 전망이다. 엔비디아는 여전히 많은 도전자들보다 빠르게 성장하고 있으며, 소프트웨어와 네트워킹 등으로 사업 영역을 확장해 AI 경제에서 없어서는 안 될 존재로 자리매김하고 있다.

하지만 AI 반도체 시장이 연간 매출 1조 달러를 넘어설 것으로 예상되는 가운데, 이러한 공세는 갈수록 더 거세질 전망이다.

투자회사 가벨리의 헨디 수산토 포트폴리오 매니저 겸 애널리스트는 "엔비디아는 강력한 생태계를 갖추고 있다"면서도, 아마존과 구글이 갑자기 자체 칩을 다른 업체에 판매하기 시작하는 등 시장의 변화는 예측하기 어려웠다고 말했다. 그는 "이런 흐름은 비교적 빠르게 우리에게 다가왔다"고 전했다.

오는 26일 발표될 엔비디아의 실적은 회사의 압도적 우위를 다시 한번 확인시켜줄 것으로 보인다. 애널리스트들은 지난 분기 매출이 1년 전보다 거의 두 배 늘어난 920억 달러에 달했을 것으로 추정한다. 이는 경쟁사들의 연간 매출을 웃도는 규모다. 그러나 이처럼 막대한 현금과 압도적인 수익률은 오히려 이 시장을 더욱 매력적으로 만들고 있다. 한편 사정에 정통한 관계자들에 따르면 엔비디아의 일부 대형 고객사들은 AI 칩이 탑재된 서버 가격이 많은 경우 15% 이상 인상될 것이라는 통보를 받은 것으로 전해졌다.

캘리포니아주 산타클라라에 본사를 둔 엔비디아는 논평 요청에 응하지 않았다.

엔비디아를 향한 위협은 크게 몇 가지로 나눌 수 있다. 한편에는 기존 반도체 경쟁사들과 늘어나는 신생 업체들이 시장 점유율 확대를 노리고 있다. 다른 한편에는 자체 칩을 설계하는 AI 연구소들과 이른바 '하이퍼스케일러'로 불리는 대형 클라우드 컴퓨팅 업체들이 있다.

엔비디아는 게이머들 사이에서 대중화된 그래픽처리장치(GPU) 기술이 AI 모델 훈련에 적합하다는 사실이 알려지면서 반도체 업계 정상에 올랐다. 오픈AI의 챗GPT가 2022년 말 등장한 이후 이른바 AI 가속기로도 불리는 이 GPU에 대한 수요가 폭발적으로 늘었고, 이는 엔비디아의 오랜 경쟁사들에도 기회를 열어줬다.

GPU 제조업체 2위인 AMD는 지난 분기 데이터센터 매출이 두 배 넘게 늘어난 67억 달러를 기록했다. 리사 수 CEO는 AI 가속기 전체 시장 규모가 2030년까지 1조4000억 달러에 이를 것으로 전망한다. 다만 AMD가 이 가운데 얼마나 많은 몫을 차지할지는 불확실하다. 엔비디아는 여전히 가속기 시장의 약 90%를 장악하고 있다.

한때 반도체 업계에서 엔비디아를 앞섰던 인텔(INTC)도 자체 가속기 판매를 시도해왔지만 아직 성과는 제한적이다. 다만 AI 데이터센터에 대한 전반적인 투자 붐 덕분에 매출과 주가가 반등하는 효과를 누리고 있다.

고객사에 맞춤형 부품을 제작하는 브로드컴과 마벨은 AI 시장에서 독자적인 길을 개척해왔다. 이들은 구글을 비롯한 하이퍼스케일러들이 빠르게 늘어나는 데이터센터를 채울 반도체를 개발하도록 돕고 있다.

또한 엔비디아가 무역 규제로 어려움을 겪고 있는 중국에도 경쟁자들이 있다. 미국의 수출 통제로 엔비디아는 자사의 최고급 제품을 중국 구매자들에게 판매할 수 없다. 엔비디아가 이 규제를 철회시키려 강하게 로비를 벌였지만, 이 규제는 오히려 중국의 자국산 대안 개발에 불을 지폈다. 엔비디아에 따르면 미국의 블랙리스트에 오른 화웨이테크놀로지 등은 직접적인 경쟁 제품 개발에서 빠른 진전을 보이고 있다.

AI 업계의 전환점도 엔비디아 도전자들에게 힘을 실어주고 있다. 데이터센터는 대량의 데이터를 투입해 AI 모델을 훈련시키는 단계에서, 실제 입력값에 반응해 결과물을 내놓는 이른바 '추론' 단계로 옮겨가고 있다. 다시 말해 AI 모델은 이미 구축이 끝나 실제 사용 단계에 접어들고 있다는 뜻이다.

엔비디아의 GPU는 모델 훈련에는 분명 강력한 도구지만, 추론 단계는 더 다양한 프로세서들에 기회를 열어주고 있다. 이는 신생 반도체 업체들의 '땅따먹기'를 부추기고 있다. 존 페디 리서치에 따르면 현재 150개 업체가 200종이 넘는 AI 반도체 설계를 개발 중이다.

이들의 목표는 추론 작업을 더 빠르고 효율적으로 처리할 수 있도록 칩을 특화하는 것이다. 특정 유형의 모델에 맞춰 제품을 미세 조정할 수도 있다.

이 분야에 주력하는 스타트업 디매트릭스의 시드 셰스 CEO는 "추론은 모든 것에 맞는 하나의 해법이 존재하지 않기 때문에, 단일 칩으로 무작정 밀어붙이는 방식은 통하지 않을 것"이라고 말했다.

또 다른 동기는 엔비디아가 지나치게 지배적인 위치를 차지하지 못하도록 견제하려는 욕구다. 엔비디아는 고급형 가속기 칩 하나당 약 3만 달러를 받고 있다. 영업이익률은 무려 75%까지 확대됐는데, 이는 가장 근접한 경쟁사들보다도 약 20%포인트 높은 수준이다.

반도체 스타트업 포지트론의 미테시 아그라왈 CEO는 "시장은 독점 구조보다는 어느 정도의 과점 구조를 선호한다"고 말했다.

엔비디아의 아성에 흠집을 낼 계획이 있는 이들에게는 공모 시장과 사모 시장 모두에서 자금이 넘쳐나고 있다. 세레브라스는 지난 5월 반도체 업계 사상 최대 규모의 기업공개(IPO)를 단행해, 청약 초과 속에 기록적인 자금을 조달했다.

세레브라스의 앤드루 펠드먼 CEO의 메시지는 단순하다. 자사 칩이 AI 프롬프트에 대한 답변을 제공하는 속도에서 엔비디아보다 훨씬 빠르다는 것이다. 그는 "이 시장은 속도를 매우 중요하게 여긴다"고 말했다.

오픈AI와 아마존은 모두 접시만한 크기의 칩으로 성능을 끌어올리는 세레브라스와 계약을 맺었다. 동시에 포지트론, 프랙타일, 에치드 같은 이전에는 잘 알려지지 않았던 스타트업들도 참신한 칩을 선보이기 위한 투자 라운드에서 빠르게 몸값을 높이고 있다.

이 모든 과정이 쉽지는 않다. 반도체 설계는 인내심이 부족하거나 경험이 없거나 자금이 부족한 이들에게는 맞지 않는 일이다. 칩 개발에는 수년이 걸리고 비용은 수억 달러 이상 들 수 있으며, 첫 시도에서 성공하는 경우는 드물다.

디매트릭스의 셰스 CEO는 반도체 양산 직전 최종 설계 단계인 '테이프아웃'을 개인적으로 약 20차례 주관했다고 밝히며 "20번째, 21번째라고 해서 쉬워지는 것 같지는 않다"고 말했다.

압도적인 컴퓨팅 처리 능력을 갖춰 '하이퍼스케일러'로 불리는 기업들에게는 고민이 있다. 데이터센터를 늘리는 속도가 반도체 공급 속도를 앞지르고 있다는 점이다. 이 때문에 엔비디아의 대안을 찾는 것이 거의 필수가 됐고, 점점 더 자체 개발로 눈을 돌리고 있다.

바로 이 지점에서 브로드컴이 등장한다. 한때 와이파이 반도체 등 통신 부품으로 유명했던 이 회사는 이제 자체 칩 설계를 원하는 기업들이 가장 먼저 찾는 파트너가 됐다.

브로드컴은 구글, 메타플랫폼스 등과 함께 AI 칩을 개발하고 있으며, 올해 관련 제품 매출이 560억 달러에 이를 것으로 예상하고 있다. 이는 엔비디아의 GPU가 맡아온 역할을 대신할 주문형반도체(ASIC)를 활용하는 방식이다.

블룸버그 인텔리전스 분석에 따르면 브로드컴 설계 부문의 AI 관련 매출은 현재 두 배 이상으로 늘고 있다.

다만 공급업체를 다변화하려는 움직임은 브로드컴만으로는 부족하다는 것을 뜻하기도 한다. 구글은 텐서처리장치(TPU)라 부르는 자체 AI 칩 개발을 위해 마벨과도 협력하고 있다.

경쟁이 격화되고 있다는 또 다른 신호로, 구글은 올해 처음으로 두 가지 버전의 TPU를 동시에 출시할 예정이다. 이를 통해 그중 하나는 빠른 추론 시장을 겨냥할 수 있게 된다. 구글은 또한 고객들이 구글 클라우드와 데이터센터 밖에서도 이 칩을 사용할 수 있도록 허용하기 시작했는데, 이는 엔비디아의 판매 방식에 더 가까운 모델이다.

오픈AI와 앤스로픽 같은 최상위 AI 개발사들은 자체 인프라 구축 경쟁에 뛰어들고 있으며, 이는 단순히 데이터센터와 장비 확보를 넘어선다. 하이퍼스케일러들과 마찬가지로 이들도 각사의 필요에 맞게 맞춤화할 수 있는 자체 칩을 원하고 있다.

AI 소프트웨어 클로드를 개발한 앤스로픽은 엔비디아에 대한 의존도를 낮추기 위해 공격적인 조치를 취해왔다. 여기에는 구글, 아마존, AMD의 AI 가속기 칩을 사용하기 위한 수백억 달러 규모의 계약 체결이 포함된다. 챗GPT를 만든 오픈AI도 비슷한 행보를 보이고 있다.

다음 단계는 자체 반도체 사업을 구축하는 것이다. 앤스로픽은 자체 AI 가속기 개발 계획에 대해 구체적으로 밝히지 않았지만, SK하이닉스가 이에 수반될 메모리 칩 공급을 제안받은 것으로 알려졌다. SK그룹 최태원 회장은 지난달 한 행사에서 이 같은 논의가 있었음을 인정했다.

오픈AI는 자체 칩 개발과 관련해 더 구체적인 로드맵을 제시했다. '할라피뇨'로 명명된 이 프로세서는 브로드컴과 공동 개발했으며, 올 하반기 데이터센터에 배치될 예정이다.

초기 단계에서 이 칩은 추론에만 집중하고, 훈련은 여전히 엔비디아 GPU에 맡길 계획이다. 다만 향후 버전은 더 많은 작업을 처리할 수도 있다. 브로드컴의 호크 탄 CEO는 이 반도체가 2028년에 새로워지고, 이후 매년 업데이트될 것이라고 밝혔다.

주목할 점은 오픈AI가 자사 칩을 다른 기업들도 사용할 수 있도록 허용하는 방안을 검토하고 있다는 것이다. 오픈AI의 반도체 부문 책임자인 리처드 호는 지난 6월 인터뷰에서 이같이 밝혔다.

그는 자체 칩 설계가 성능과 비용, 속도의 최적 조합을 확보하는 데 핵심적이라며 "이는 오픈AI가 전체 인프라 스택에 대한 실질적이고 완전한 통제권을 확보하기 위한 일련의 단계 중 시작"이라고 말했다.

한편 메타(META)는 AI 야망을 뒷받침하기 위해 다양한 자체 반도체 설계를 계획하고 있다. 메타는 상대적으로 뒤늦게 뛰어든 퀄컴(QCOM)을 포함해 AI 부품 분야의 사실상 모든 주요 기업과 협약을 체결했다. 하지만 아직 초기 단계임을 보여주는 신호도 있다. 최근 몇 달간 메타의 엔비디아 관련 지출은 오히려 늘어났다.

월가에서는 엔비디아의 위상이 다소 빛이 바랬다. 2026년 들어 엔비디아 주가는 15% 오르는 데 그쳤지만, 필라델피아증권거래소 반도체지수는 66% 상승했다. 인텔과 AMD 주가는 두 배 넘게 뛰었고, 메모리 제조업체 마이크론 테크놀로지(MU)는 세 배 넘게 올랐다.

그러나 엔비디아도 추론 시장에서 경쟁력을 유지하기 위한 움직임에 나서고 있다. 지난 12월에는 이 시장에 주력해온 스타트업 그로크의 기술과 인력을 인수하는 데 보도에 따르면 200억 달러를 지불하기로 합의했다.

엔비디아의 경쟁자들이 직면한 또 다른 과제는 공급망이다. 현대 반도체 산업에서 대부분의 기업은 제품을 설계한 뒤 파운드리로 불리는 소수의 위탁생산업체에 제조를 맡긴다.

대만의 TSMC(TSM)는 가장 앞선 반도체를 생산하는 지배적인 파운드리로, AI 프로세서 경쟁에서 사실상 승자를 가르는 존재다. 엔비디아는 TSMC와 오랜 관계를 맺어왔으며, 갈수록 커지는 자금력을 활용해 업계 내 핵심적 지위를 더욱 공고히 할 수 있다.

블룸버그 인텔리전스의 쿤잔 소바니 애널리스트는 "1000억 달러가 넘는 공급 계약을 통해 엔비디아는 사실상 향후 여러 분기에 걸쳐 필요한 핵심 AI 인프라 생산 능력을 미리 확보하고 있는 셈"이라고 설명했다. 그는 "AI 인프라 투자가 가속화될수록 엔비디아의 규모와 구매력 자체가 경쟁 우위로 작용할 수 있으며, 이는 소규모 경쟁사들이 비슷한 속도로 충분한 생산 능력을 확보하기 어렵게 만든다"고 덧붙였다.

엔비디아의 속도는 갈수록 빨라지고 있다. 이 회사는 이제 매년 설계를 전면적으로 갈아엎고 있으며, 데이터센터 냉각 시스템과 네트워킹, 스토리지 등 다양한 부가 기술도 제공할 수 있는 폭넓은 역량을 갖췄다.

엔비디아의 잠재적 경쟁자들도 아직은 경쟁에 필요한 규모를 갖추지 못했다는 점을 인정한다. 포지트론의 아그라왈 CEO에 따르면 세레브라스는 수백억 달러 규모의 계약을 확보했지만, 그 뒤를 잇는 스타트업들은 아직 그 수준에 이르지 못했다.

그는 엔비디아의 경쟁자라고 자처하는 것조차 쉽지 않은 일이라며 "솔직히 말해 엔비디아 매출의 최소 10분의 1을 주장할 수 있을 때까지는 그 누구도 엔비디아의 경쟁자라 할 수 없다"고 말했다.

그리고 자랑스러운 반도체 강자로 떠오른 아마존조차 여전히 엔비디아에 깊이 의존하고 있다. 자체 개발 노력에도 불구하고, 이 전자상거래 공룡은 여전히 설비투자액의 약 4분의 1을 엔비디아에 쓰고 있다.

kimhyun01@newspim.com