[GAM]엔비디아 독주 흔드는 구글 TPU ② GPU와 차이점 깨알분석

기사입력 : 2025년11월27일 08:02

최종수정 : 2025년11월27일 08:02

추론에 최적화, 전문화된 용도
GPU 의존도 완화 해법
대체 보다 AI 칩의 한 축

이 기사는 11월 26일 오후 2시50분 '해외 주식 투자의 도우미' GAM(Global Asset Management)에 출고된 프리미엄 기사입니다. GAM에서 회원 가입을 하면 9000여 해외 종목의 프리미엄 기사를 보실 수 있습니다.

[서울=뉴스핌] 황숙혜 기자 = 구글의 TPU(Tensor Processing Unit, 텐서처리장치)가 엔비디아(NVDA)의 GPU(그래픽처리장치) 주도의 인공지능(AI) 칩 시장의 판도를 어디까지 흔들 수 있을까.

젠슨 황 엔비디아 최고경영자(CEO)는 소셜 미디어 X를 통해 자사 GPU가 구글의 AI 칩보다 한 세대 앞선다고 주장해 관심을 끌고 있다.

이에 대해 미국 금융 매체 포춘은 최근 빅테크들이 연이어 구글 TPU 채택을 저울질하자 엔비디아가 당혹감을 감추지 못하고 있다고 해석했다.

블룸버그는 구글의 TPU가 거대언어모델(LLM)을 학습, 운영하는 데 엔비디아의 GPU 기반의 AI 가속기와 경쟁할 만한 대안으로 부상하고 있다고 보도했다.

구글이 TPU를 만들어 낸 것은 약 10년 전이다. 검색 서비스의 기능을 강화하고, 효율성을 높이는 데 목적을 둔 칩이었다. 이후 업체는 머신러닝과 AI 용으로 TPU를 발전시켰다.

TPU는 행렬 곱셈 같은 딥러닝 핵심 연산에 특화된 AI 전용 칩이기 때문에 상대적으로 좁고 전문화된 용도에 맞춰졌고, 대신 전력 효율과 비용 측면에서 강점을 지닌 것으로 평가 받는다.

구글은 2013년부터 TPU를 개발해 검색과 클라우드, 제미나이(Gemini)를 포함한 자체 AI 모델에 접목했고, AI 팀의 피드백을 칩 설계에 반영하는 형태로 칩과 소프트웨어, AI 모델을 함께 진화시켰다.

알파벳 시가총액 추이 [자료=블룸버그]

업체는 최신 아이언우드(Ironwood) TPU가 수냉식, 추론에 최적화돼 있다고 밝혔다. 또 256개에서 9216개에 이르는 칩으로 구성된 거대한 팟(pod)으로 제공된다고 설명한다.

엔비디아의 GPU는 본래 게임 그래픽용으로 개발된 범용 병렬 연산 칩이고, 수 천 개의 코어로 여러 작업을 동시에 처리해 다양한 AI 작업에 유연하게 쓰인다는 강점을 지니고 있다.

작은 연산들을 대량으로 병렬 처리하는 능력을 강점으로 하는 GPU는 오늘날 AI와 잘 맞고, 엔비디아는 GPU를 CUDA라는 소프트웨어 플랫폼과 함께 묶어 거대한 생태계를 만들었다.

구글 TPU v4 팟 [사진=업체 제공]

삭소은행은 보고서를 내고 투자자 관점에서 두 가지 칩의 중요한 차이는 유연성과 통제력이라고 주장했다.

엔비디아의 GPU는 범용 가속기이기 때문에 여러 벤더에게서 구매해 여러 시스템에 탑재하고, 여러 프레임워크에서 쓸 수 있는 반면 TPU는 텐서플로(TensorFlow)나 JAX 등 구글 도구와 강하게 결합돼 있어 대부분 구글 클라우드 안에서 사용된다.

엔비디아는 칩을 판매하는 사업자인 데 반해 알파벳은 칩과 데이터센터, 클라우드 서비스를 모두 소유한 소위 '풀 스택' 사업자다. 고객들이 구글 클라우드 안에서 제3자의 GPU 대신 TPU를 선택하면 AI에 쓰이는 자금 중 더 많은 몫이 알파벳 안에 남게 되고, 이는 헤드라인 매출보다 수익성에 더 직접적인 영향을 미친다고 삭소은행은 설명한다.

투자자들의 관심은 알파벳의 TPU가 엔비디아의 GPU 독주를 무너뜨릴 수 있을 것인지 여부다. 삭소은행은 상당한 가능성을 실었다.

알파벳이 TPU 프로그램을 여러 세대에 걸쳐 발전시켰고, 특히 최신 TPU v5p는 대규모 모델 학습용 'AI 하이퍼컴퓨터'의 기반이 됐다. 아울러 아이언우드 TPU는 대량 추론을 빠르고 저렴하게 처리하는 데 강한 성능을 보인다.

업체는 TPU와 별도로 악시온(Axion)이라는 커스텀 Arm 기반 데이터센터 CPU도 만들었는데 두 가지를 함께 사용하면서 데이터센터 전체를 자체 설계 칩 중심으로 최적화할 수 있게 됐다. 엔비디아 뿐 아니라 인텔과 AMD(AMD) 등 외부 칩 업체에 대한 의존도를 낮췄다는 얘기다.

TPU v5e 인스턴스는 유사한 추론 솔루션 대비 달러 당 AI 성능이 약 4배까지 나오는 것으로 보고됐다. V6e 관련 사례에서는 엔비디아 GPU 기반에서 TPU로 옮긴 워크로드의 추론 비용이 50~65% 절감됐다는 보고도 나왔다.

삭소은행은 이번 보고서에서 "유연성을 중시하거나 TPU에 최적화되지 않은 소프트웨어 스택을 사용하는 업체들에게 엔비디아의 GPU가 여전히 '안전한 기본값'으로 남아 있어 엔비디아의 시대가 조만간 끝날 것으로 보기는 어렵다"며 "하지만 알파벳 뿐 아니라 아마존(AMZN)과 마이크로소프트(MSFT) 등 이른바 하이퍼스케일러들이 자체 가속기를 설계하면서 엔비디아에 대한 협상력이 커졌고, 자체 칩과 제3자 GPU 사이에서 워크로드를 조정하며 가격과 공급 측면에서 유리한 위치를 차지할 수 있게 됐다"고 전했다.

보고서는 또 "알파벳의 경우 검색과 지도, 유튜브, 포토, 제미나이 등 이미 거대한 제품군에 TPU를 접목했고, 이는 단순히 '새로운 비즈니스'가 아니라 기존의 해자를 더욱 깊게 만드는 효과를 내고 있다"며 "지난 3분기 워렌 버핏의 버크셔 해서웨이가 알파벳 주식을 매입한 것도 이 같은 맥락일 것"이라고 설명했다.

엔비디아에 드물게 '매도' 투자 의견을 제시한 씨포트증권의 제이 골드버그 애널리스트는 최근 보고서를 내고 "구글 TPU가 AI에 필요 없는 일반 기능을 칩에서 과감하게 덜어내 효율성을 높였다"며 "세대가 거듭되면서 성능과 전력 효율을 동시에 끌어올려 운영 비용을 낮췄다"고 호평했다.

보도에 따르면 오픈AI 공동 창업자 일리야 수츠케버가 만든 세이프 수퍼인텔리전스와 세일즈포스(CRM), 이미지 생성 서비스 미드저니, 생성형 AI 업체 앤스로픽 등이 TPU를 사용하고 있다.

특히 앤스로픽은 지난 10월 공개된 딜을 통해 최대 100만개 수준의 TPU에 접근할 수 있고, 1기가와트를 넘는 구글 컴퓨팅 파워를 제공받을 수 있게 됐다.

이어 메타 플랫폼스(META)가 2027년부터 데이터센터에 구글 TPU 사용을 논의중이라는 보도가 나오는 등 IT 업계에 TPU 채택이 확산되는 모양새다.

TPU를 사용하려면 구글 클라우드에서 연산 자원을 임대해야 하지만 앤스로픽 딜을 계기로 이른바 '네오 클라우드(소형 AI 클라우드)'로 확장될 가능성이 열렸다는 분석이 나온다.

고가의 가격 부담과 공급 불안정으로 인해 엔비디아의 GPU 의존도를 완화할 대안을 찾는 기업들에게 TPU가 매력적인 보완제라는 평가다.

블룸버그는 AI 칩 시장의 현실적인 시나리오로 알파벳의 TPU가 엔비디아의 GPU를 완전히 대체하기보다 바스켓의 한 축을 이루는 그림이 전개될 것으로 예상한다.

누구도 TPU를 포함한 다른 칩이 엔비디아의 GPU를 완전히 대체할 수 있다고 보지 않고, 구글 역시 같은 목소리를 낸다는 것. 모델과 알고리즘이 자주 바뀌는 환경에서 범용성이 높은 GPU가 여전히 더 유리하고, 젠슨 황의 주장대로 엔비디아가 '한 세대 앞서 있다'는 평가에 설득력이 실린다는 얘기다.

TPU의 가장 현실적인 위치는 AI 인프라 바스켓 안에서 중요한 한 축을 이루면서 특정 워크로드와 비용 구조 측면에서 강점을 살리며 성장하는 것이라고 블룸버그는 강조한다.

다만, 투자자 입장에서 엔비디아의 독점적 입지에 균열이 생기면서 성장이 둔화될 가능성이 지난 5년간 1241% 폭등한 주가에 부담으로 작용할 수 있다는 지적이다.

shhwang@newspim.com

사진

내란특검, 한덕수에 징역 15년 구형 [서울=뉴스핌] 백승은 기자 = "그날 밤, 대통령이 비상계엄을 하겠다는 순간 (중략) 기억도 맥락도 없고 분명하지 않습니다. (중략) 다만 비록 비상계엄을 막지 못했지만, 비상계엄을 찬성하거나 도우려 한 일은 결단코 없었습니다. 그것이 오늘 역사적인 법정에서 제가 드릴 가장 정직한 말입니다." 내란우두머리·내란 방조 혐의를 받는 한덕수 전 국무총리가 26일 서울중앙지법 형사합의33부(재판장 이진관) 심리로 열린 결심 공판에서 이같이 최후 변론했다. 1심 선고는 오는 1월 21일 오후 2시에 나온다. 내란 특별검사(특검)는 한 전 총리에게 징역 15년의 중형을 구형했다. 한 전 총리의 혐의는 내란중요임무종사·내란우두머리방조·허위공문서작성및허위작성공문서행사·대통령기록물관리에관한법률위반·위증이다. [서울=뉴스핌] 류기찬 기자 = 한덕수 전 국무총리가 26일 오후 서울 서초구 서울중앙지법에서 열린 내란 방조 및 내란 중요임무 종사 혐의 관련 결심공판을 마친 뒤 법원을 나서고 있다. 2025.11.26 ryuchan0925@newspim.com 이 재판은 내란우두머리방조로 기소됐지만, 지난 3차 공판에서 재판부가 특검에 내란중요임무종사 혐의를 '선택적 병합' 형태로 공소장 변경하라고 요청해 공소 사실이 추가됐다. 선택적 병합은 필수적 병합의 반대 개념으로, 두 개 혐의를 공소장에 추가하면 재판부가 한 가지를 선택해 판단할 수 있는 형태다. 특검 측은 한 전 총리가 내란 범행에 가담하기 위해 절차적 정당성을 확보하려는 목적으로 국무위원 정족수를 채우려고 시도하거나 허위 공문서를 작성했다고 본다. 또 진술을 수차례 번복해 비협조적인 태도로 일관하고 있고 개선의 여지가 없는 점도 양형으로 고려돼야 한다고 봤다. 위증과 관련해선 명백하게 밝혀진 바가 있고, 한 전 총리도 일부 혐의를 인정했다. 한 전 총리는 윤석열 전 대통령의 탄핵 심판에서 '계엄 선포문을 받은 적이 없다', '이상민 전 행정안전부 장관과 대화한 기억이 없다'라고 했지만, 이후 공개된 12·3 대통령실 대접견실 폐쇄회로(CC)TV에는 한 전 총리는 선포문을 받고 이 전 장관과 약 16분간 대화를 나누는 모습이 포착됐다. 이 CCTV에는 윤 전 대통령이 국무위원에게 비상계엄 사실을 알리자 한 전 총리가 고개를 끄덕이기도 했다. 또 한 전 총리는 당일 '국무위원에게 직접 전화하지 않았다'고 했지만, 송미령 농림축산식품부 장관에게 '빨리 오라'고 통화를 한 사실도 뒤늦게 드러났다. 이날 특검 측은 한 전 총리에 징역 15년을 구형하며, 12·3 비상계엄은 '민주주의에 대한 테러'라고 강하게 비판했다. 특검 측은 과거 내란 범죄가 권위주의에서 민주주의로 가는 기회를 박탈한 것이었다면, 12·3 비상계엄은 수십 년간 한국이 쌓은 민주화의 결실을 한 순간에 무너뜨려 더 막대하게 국격을 손상하고 국민에게 상실감을 줬다고 했다. 아울러 한 전 총리는 국가의 2인자로서 내란 사태를 막을 수 있는 사실상 유일한 사람이었음에도 내란 범행에 가담해 막대한 피해를 줬다고 지적했다. 특검 측은 "그간 대한민국 사법시스템 죄에 상응하는 책임 엄히 물었다. 강화된 양화기준 발전된 시대적 경제적 사회적 변화 고려할 필요가 있고, 나아가 피고인을 엄히 처벌해 다시는 대한민국에서 불행 역사 되풀이되지 않도록 해야 한다"라고 강조했다. 반면 한 전 총리 측은 비상계엄의 절차적 정당성을 위해 국무위원을 모은 게 아니라 대통령을 저지하기 위해 모은 것이라고 주장했다. 위증 역시 큰 충격을 받아 기억이 선명하지 않은 것뿐이라고 밝혔다. 한 전 총리는 최후진술에서 직접 준비한 종이 한 장을 들고 '존경하는 재판장님'이라며 말 문을 열었다. 그는 "작년 12월, 비상계엄 선포로 국민이 겪은 고통과 혼란을 가슴 깊이 죄송스럽게 생각한다"라고 했다. 이어 "1970년 경제 관료로 입문해 한평생 공직을 걸어 왔다. 경제 정책 최일선에서 일했다. 대한민국은 제게 많은 기회를 줬고, 전력을 다하는 게 그에 보답하는 길이라고 생각하며 살았다. 그 길의 끝에 비상계엄 선포 사태를 만나리라고는 꿈에도 예상치 못했다"라고 밝혔다. 한 전 총리는 "여기 계신 어떤 분보다 제가 스스로를 더 혹독하게 추궁했다. 그날 밤 혼란한 기억을 복기할수록 제가 부족한 사람이었다는 절망만 사무친다"라며 "저는 그 괴로움을 죽는 날까지 지고 가야 하는 사람"이라고 힘주어 말했다. 이날 한 총리는 재판을 마치고 '국민들 앞에서 한마디 하실 말씀 없냐', '헌법재판소 재판관을 임명하지 않은 것에 대해 후회하지 않느냐' 등 취재진의 질문에는 어떤 대답도 하지 않고 법정을 빠져나갔다. 100wins@newspim.com 2025-11-26 18:58

사진

"'자사주 1년내 소각 의무화' 연내 마무리" [서울=뉴스핌] 배정원 기자 = 더불어민주당은 자사주를 취득일로부터 1년 내 소각하도록 하는 내용의 3차 상법 개정안을 연내 마무리하겠다고 25일 밝혔다. 한정애 민주당 정책위의장은 이날 오전 국회에서 열린 원내대책회의에서 "더 건강한 자본 시장을 위해 3차 상법 개정안이 조속히 논의되고 시행될 수 있도록 최선을 다하겠다"며 이같이 밝혔다. 한정애 더불어민주당 정책위의장. [사진=뉴스핌DB] 한 정책위의장은 "주주 충실 의무 명문화, 집중투표제 의무화에 이은 자사주 소각 의무를 담은 3차 상법 개정안을 연내에 마무리하도록 하겠다"고 말했다. 그는 "그간 자사주가 특정 주주의 이익을 위해서 이용되는 나쁜 사례가 많았다"며 "상법 개정을 통해 자사주의 성격을 명확히 규정하고 자사주 마법을 우리 자본시장에서 퇴출하도록 하겠다"고 말했다. 3차 상법 개정안은 회사가 자기 주식을 취득하는 경우 취득일로부터 1년 내 소각하는 것을 원칙으로 하되, 임직원 보상 목적 등 일정 요건에 해당할 때는 '자기주식 보유·처분 계획'을 작성해 주주총회 승인을 통해 보유 또는 처분할 수 있도록 한다. 기존 자사주에 대해선 신규 취득 자사주와 동일한 의무를 부여하되 법 시행 후 6개월의 추가 유예 기간을 두기로 했다. 전날 민주당 코스피 5000 특위 위원장인 오기형 의원은 이 같은 내용을 골자로 하는 상법 개정안을 대표 발의했다. 한 정책위의장도 공동 발의자에 이름을 올렸다. jeongwon1026@newspim.com 2025-11-25 10:12