요즘 AI 업계에서 가장 뜨거운 이슈 중 하나가 바로 구글의 제미나이3다. 챗GPT에 맞먹는 성능을 보여주면서 동시에 엔비디아 GPU가 아닌 구글 자체 개발 칩인 TPU로 학습했다는 사실이 알려지며 많은 사람들이 놀랐다. 그동안 AI 반도체 시장은 사실상 엔비디아의 독무대였는데, 이제 판도가 바뀌는 건 아닐까 하는 기대감이 생긴 것이다.
엔비디아 CEO 젠슨 황도 이를 의식했는지 최근 X에 직접 글을 올렸다. 구글의 성과를 인정하면서도 GPU가 여전히 TPU보다 앞선 기술이라는 점을 강조했다. 구글이 TPU를 쓴다고 해도 결국 엔비디아 GPU가 필요할 것이라는 자신감도 드러냈다. 시장 1위 기업의 CEO가 직접 나서서 경쟁사 제품을 언급한다는 것 자체가 이례적인 일이다.
제미나이3는 정말 GPU 없이 만들어졌을까
사실 구글만 자체 칩 개발을 한 건 아니다. 마이크로소프트, 테슬라, 아마존 같은 빅테크 기업들도 오래전부터 엔비디아 GPU의 대안을 찾기 위해 자체 칩을 연구해왔다. 일부는 실제로 AI 학습에 사용되기도 했고, 특정 영역에서는 GPU보다 나은 효율을 보이기도 했다.
그렇다면 정말 엔비디아의 독주 체제가 흔들리는 걸까? 전문가들은 당장은 아니라고 본다. 우선 제미나이3가 완전히 GPU 없이 만들어졌다는 주장부터 정확하지 않다는 분석이 나온다.
국내 AI 팹리스 업계 관계자는 제미나이3가 TPU로 훈련될 수 있었던 배경을 이렇게 설명한다. 구글이 지난 수년간 엔비디아 GPU를 기반으로 데이터와 프레임워크를 훈련시켜온 게 있었기 때문이라는 것이다. AI 연구, 모델 개발, 최적화 기법, 분산 학습 등 모든 경험이 GPU를 토대로 쌓여왔고, 제미나이3는 그 데이터 기반을 TPU에 맞게 최적화한 결과물이라는 설명이다.
GPU와 TPU는 애초에 다른 목적을 가진 칩이다
GPU와 TPU의 차이를 이해하면 왜 GPU를 완전히 대체하기 어려운지 알 수 있다. GPU는 범용 프로세서다. 이미지 처리, 영상 작업, 시뮬레이션, 대규모 언어모델 학습과 추론까지 거의 모든 걸 할 수 있는 팔방미인이다. 특히 AI 서비스 개발에 필요한 소프트웨어 생태계가 GPU를 중심으로 형성되어 있어서 AI 인프라를 구축할 때 GPU는 거의 필수적이다.
물론 단점도 있다. 가격이 비싸고 전력 소비가 크다. 구매 비용과 운영 비용이 모두 만만치 않다. 또 단순한 AI 서비스에도 고성능 GPU를 쓰는 건 낭비라는 지적도 계속 나왔다.
구글이 TPU를 개발한 이유도 바로 여기에 있다. 구글도 데이터센터 학습 모델의 상당 부분을 GPU로 운영하고 있다. 하지만 GPU 가격이 계속 오르고 데이터센터 투자 비용이 너무 커지면서 고민 끝에 TPU를 만들게 된 것이다. 초기 TPU는 유튜브, 지메일, 구글 검색 같은 자사 서비스에 최적화된 형태로 개발됐다. 구글 서비스에 딱 맞는 비용 효율적인 칩을 만들자는 취지였다.
시장 독점이 아니라 역할 분담으로 가는 중이다
포스텍 이병훈 교수는 엔비디아와 구글 TPU의 경쟁을 독점 붕괴가 아니라 시장 확장 과정에서의 역할 분화로 본다. AI 학습은 지금까지 GPU가 거의 다 맡아왔지만, 앞으로 AI 응용 분야가 세분화될수록 특정 작업에 맞춘 NPU나 TPU 같은 특화 칩의 효율성이 올라갈 수밖에 없다는 것이다. GPU가 혼자 하던 일을 점차 여러 특화 칩들이 나눠서 하는 방향으로 간다는 얘기다.
실제로 AI 인프라 투자 방식도 변하고 있다. GPU에만 투자하던 방식에서 GPU와 TPU, NPU를 섞어서 쓰는 방식으로 바뀌는 추세다. 비용 효율을 높이기 위한 자연스러운 흐름이다.
브로드컴이 중요한 플레이어로 떠오른 이유
브로드컴은 구글이나 메타 같은 기업들이 AI 반도체를 개발할 때 중개자 역할을 한다. 사실 구글과 메타는 AI 반도체를 설계하고 개발해서 파운드리까지 맡길 만한 역량이 부족하다. 엔비디아처럼 반도체 설계 전문 인력을 수천 명씩 보유한 기업과는 비교 자체가 안 된다. 구글이 TPU 개발을 위해 운영하는 팀도 100명이 안 되는 것으로 알려져 있다.
이병훈 교수는 브로드컴을 이렇게 설명한다. NPU 같은 엔진을 직접 만들어서 경쟁하는 회사가 아니라 여러 업체의 NPU를 얹을 수 있는 XPU 플랫폼을 제공하는 회사라는 것이다. 차에 비유하자면 엔진을 만드는 게 아니라 차의 껍데기를 만들어주는 역할이다. 리벨리온이나 퓨리오사 같은 NPU 업체들이 엔진을 가져오면 브로드컴은 그 엔진을 달 수 있는 차체를 만들어준다.
TSMC가 고객과 경쟁하지 않고 제조만 하는 것처럼, 브로드컴도 당신과 경쟁하지 않겠다는 입장을 취한다. 대신 싸게, 잘 만들어주겠다는 포지션이다.
앞으로는 브로드컴을 중심으로 한 XPU 연합군과 엔비디아가 맞붙는 구도가 만들어질 것으로 보인다. 하지만 이건 제로섬 게임이 아니다. 지금 AI 반도체 시장이 100에서 1000으로 커지고 있어서 엔비디아가 20~30% 시장을 빼앗긴다고 해도 바로 무너지는 구조가 아니다. 엔비디아가 GPU로 독점하던 시대에서 브로드컴 연합군과 여러 NPU 업체들이 함께 시장을 키워가는 방향으로 갈 것이다.
한국 기업들에게는 오히려 기회다
이런 경쟁 구도는 한국 기업들에게 기회가 될 수 있다. 카이스트 김정호 교수는 엔비디아 GPU가 CUDA 생태계 덕분에 범용성이 높아서 당장 대체되기 어렵다고 본다. TPU는 특정 모델에 최적화하는 방식으로 서로 가는 길이 다르다는 것이다. AI 시장이 성숙해가면서 경쟁이 다원화되는 시작점이라는 분석이다.
중요한 건 GPU든 TPU든 고성능 모델을 돌리려면 HBM이 필수라는 점이다. HBM은 고대역폭메모리를 말하는데, 이걸 공급할 수 있는 기업은 삼성전자, SK하이닉스, 마이크론 세 곳뿐이다. 국내 기업에게는 오히려 기회라는 얘기다.
AI 반도체 시장이 다양화될수록 HBM 수요는 더 늘어날 수밖에 없다. 엔비디아 GPU만 쓰든, 구글 TPU도 같이 쓰든, 브로드컴 플랫폼을 활용하든 결국 고성능 메모리는 필요하다. 이 부분에서 한국 기업들이 강점을 가지고 있는 것이다.
결국 구글 TPU의 부상은 엔비디아 독점 체제의 끝이 아니라 AI 반도체 시장이 더 성숙해지면서 여러 플레이어가 함께 성장하는 단계로 접어들었다는 신호로 봐야 한다. GPU의 범용성과 생태계는 여전히 강력하지만, 특정 작업에서는 TPU나 NPU 같은 특화 칩이 더 효율적일 수 있다. 앞으로는 이런 칩들을 적재적소에 혼합해서 쓰는 게 표준이 될 것이다. 그리고 그 과정에서 HBM을 만드는 한국 기업들의 역할은 더 커질 전망이다.
👉 “기관·외인 뭐 샀을까?” 큰 손 관심주 알아내는 법