▶ 구글이 자체 AI 전용 칩 TPU를 기반으로 Gemini를 학습시키며 AI 인프라 시장에 변화를 주고 있습니다.
▶ 범용성이 강점인 엔비디아 GPU와 달리, TPU는 AI 연산에 특화된 고효율 칩이라는 차별점을 가집니다.
▶ TPU의 등장은 GPU를 완전히 대체하기보다는, 빅테크의 '자체 칩 전략'이 본격화되고 있음을 보여주는 신호입니다. 안녕하세요. 여러분의 경제 상식 파트너 '오통수' 입니다.
오늘은 요새 정말 핫한 구글의 Gemini에 대한 이야기를 해보려고 합니다.
최근 구글이 자체 AI 모델인 Gemini3.0 프로와 TPU를 공개하며 큰 관심을 받고 있는데요.
그동안은 엔비디아의 GPU가 절대적이었다면, 이제는 AI 인프라 시장에 새로운 물결이 생겼다고 해도 과언이 아닙니다.
구글과 같은 빅테크 기업들이 자체 칩을 개발하여 자사 제품에 활용하게 된다면 지금까지의 생태계와는 또 다른 환경이 만들어 질 수 있기 때문이죠.
문과생인 저에게는 TPU, GPU, 텐서플로, ASIC과 같은 용어들이 정말 생소했었는데요.
오늘 정리해보겠습니다!
■ TPU란? TPU는 Tensor Processing Unit의 약자로, 구글이 개발한 AI 전용칩입니다.
전용칩을ASIC이라고 부르기도 하는데 이는 Application-Specific Integrated Circuit의 약자로 '용도에 특화된 칩이다'라는 의미입니다.
즉, 한 가지 일에 집중하도록 개발된 칩이기 때문에, 범용성이 높은 GPU와는 차별화 되는 것이죠.
구글 6세대 TPU Trillium (출처: 구글 / 클릭 시 관련 페이지로 이동)
구글 TPU는 2016년에 처음으로 출시되어 현재 6세대인 트릴리움까지 개발되었고, 직전 세대보다 효율과 성능을 개선시키고 있습니다.
그리고 이번 Gemini 3.0 공개를 계기로, TPU는 구글 AI 모델 학습에서 핵심 인프라로서의 역할을 분명히 드러냈습니다.
TPU는 한마디로 말해, AI 연산만을 위해 만들어진 전용 칩입니다.
여러 작업을 두루 수행하는 GPU와 달리, TPU는 설계 단계부터 AI 학습에 꼭 필요한 연산만을 중심으로 만들어졌습니다.
이러한 특성 덕분에 구글의 딥러닝 프레임워크인 TensorFlow와 잘 맞고, AI 모델 학습 과정에서 높은 효율을 낼 수 있습니다.
Gemini 3.0 역시 이러한 TPU 기반 환경에서 학습된 모델로, 구글이 자체 칩을 통해 대규모 AI 모델을 구현할 수 있음을 보여준 사례입니다.
■ 엔비디아 GPU와의 차이 엔비디아는 현재 AI 학습과 추론 시장에서 가장 널리 쓰이는 GPU를 공급하는 대표적인 기업입니다.
GPU는 Graphics Processing Unit의 약자로, 말 그대로 화면 속 그림을 빠르게 처리하기 위해 만들어진 칩입니다.
엔비디아는 원래 게임용 그래픽 칩으로 먼저 이름을 알렸는데, 게임 화면을 빠르고 부드럽게 보여주는 것이 GPU의 주된 역할이었죠.
그래픽 처리의 핵심은 많은 계산을 한 번에 동시에 처리하는 능력인데, 이 구조가 AI 딥러닝과 매우 잘 맞았습니다. AI 학습은 동일한 계산을 수억 번 반복하는 과정이기 때문에, GPU의 병렬 처리 능력이 큰 강점으로 작용한 것입니다. 이런 이유로 GPU는 AI 학습과 추론에 널리 활용되기 시작했고, 현재 전 세계에서 가장 많이 사용되는 AI용 GPU가 바로 엔비디아의 H100입니다.
엔비디아 H100 GPU (출처: 엔비디아)
이처럼 엔비디아의 GPU는 게임, 영상처리, AI 등 다양한 분야에 활용할 수 있는 범용성이 강한 칩입니다.
반면 구글의 TPU는 범용성보다는 AI 연산 효율에 초점을 맞춘 전용 칩이라는 점에서 차이가 있습니다.
● 엔비디아의 GPU가 게임도 잘하고, 영상 편집도 잘하고, AI 연산까지 두루 수행할 수 있는 만능 직원이라면,
● 구글의 TPU는 AI 연산만을 위해 설계된 전담 인력에 가깝습니다.
TPU는 AI 연산에 특화된 구조로 설계된 만큼, 범용성은 낮지만 전력 소모가 적고 특정 조건에서는 GPU보다 더 빠른 학습 성능을 낼 수 있습니다.
이러한 특성은 대규모 데이터센터를 운영하는 기업 입장에서 운영 비용을 절감할 수 있는 중요한 장점으로 작용합니다.
AI 인프라가 커질수록 전력 문제가 중요해지는데, TPU는 이 부분에서 효율적인 대안이 될 수 있습니다.
■ TPU가 GPU를 대체할 수 있을까? 그렇다면 이런 흐름 속에서 TPU가 GPU를 완전히 대체할 수 있을 것처럼 보이기도 하는데요,
현재로서는 그 가능성이 높다고 보기는 어렵습니다.
TPU는 AI 연산에 특화된 전담 칩인 반면, GPU는 학습과 추론은 물론 다양한 연산에 활용할 수 있는 범용 칩이기 때문입니다.
활용 범위가 넓은 GPU에 대한 수요는 여전히 시장에서 압도적인 비중을 차지하고 있습니다.
구글 TPU vs 엔비디아 GPU (출처: KB자산운용)
물론 구글과 같은 대형 AI 기업들이 자체 TPU 생산을 확대할 경우, 관련 수요는 늘어날 수 있습니다.
다만 현재 AI 인프라 전반을 지탱하고 있는 것은 여전히 GPU이며, 당분간 이 구조가 크게 바뀔 가능성은 높지 않아보입니다.
즉, TPU의 등장은 엔비디아 GPU의 '위협'이라기보다, AI 반도체 수요가 GPU를 넘어 ASICㆍ커스텀칩까지 확장되고 있음을 보여주는 변화로 해석하는 것이 자연스럽습니다.
이렇게 AI 인프라가 확장되는 환경에서는 특정 기업 하나에 대한 기대보다는, 반도체 밸류체인 전반에 대한 접근이 하나의 대안이 될 수 있는데요.
한국형 SOXX로 불리는 RISE 미국반도체 NYSE ETF에 주목해 볼만한 이유입니다.
(출처: RISE ETF / 클릭 시 상품페이지로 이동)
■ 자체 칩으로도 1등을 할 수 있다 구글 TPU의 등장은 시장에서 자연스럽게 엔비디아 GPU와의 비교로 이어지며, AI 반도체 구조 변화에 대한 가능성을 다시 보게 만들고 있습니다.
그렇다면 TPU를 기반으로 학습된 구글 AI 모델 Gemini의 성능은 어떨까요?
최근 공개된 Gemini의 이미지 생성 모델은 기존 AI 이미지에서 느껴졌던 인위적인 느낌이 줄어들며, 실제 사람이 그린 듯한 결과물로 주목받고 있습니다.
또한 생성형 AI 전반을 비교했을 때, 구글 Gemini는 주요 평가 지표에서 상위권 성능을 기록하고 있는 모델 중 하나로 평가되고 있습니다.
생성형 AI 순위 (출처: LM Arena / 클릭 시 LM Arena 홈페이지로 이동)
LM Arena는 사용자 투표를 기반으로 AI 성능을 비교하는 대표적인 플랫폼으로, 텍스트ㆍ이미지ㆍ코딩 등 다양한 항목별 성능을 세분화해 평가합니다.
이 가운데 많은 사용자가 활용하는 텍스트 기반 생성형 AI 부문에서 구글의 Gemini는 그록(Grok), Chat GPT 등을 제치고 상위권 점수를 기록했습니다.
이를 통해 TPU 기반으로 학습된 Gemini가 성능 측면에서도 경쟁 모델에 뒤쳐지지 않는다는 점을 확인할 수 있습니다.
자체 TPU를 활용해 비용 효율성을 확보하면서도 성능 경쟁력을 유지했다는 점은 구글 입장에서 의미 있는 성과로 평가됩니다.
이러한 사례는 엔비디아와 같은 기존 칩 공급업체에는 긴장 요인이 될 수 있으며, 동시에 자체 칩 도입을 고민하는 빅테크 기업들에게는 하나의 참고 사례가 되고 있습니다. Compliance notice ※ KB자산운용 준법감시인 심사필 '투자광고 2025_2128(다)' (2025.12.19~2026.12.18) ※ 본 자료는 고객의 투자에 참고가 될 수 있는 각종 정보 제공을 목적으로 제작되었습니다. 본 자료는 계량적 분석에 근거한 의견을 제시하며, 당사의 대표 투자의견과는 다를 수 있습니다. ※ 본 자료는 합리적인 정보를 바탕으로 작성된 것이지만, 투자 권유의 적합성이나 완전성을 보장하지 못합니다. 따라서 투자 판단의 최종 책임은 투자자 본인에게 있으며, 본 자료는 어떠한 경우라도 법적 책임소재의 증빙으로 사용될 수 없습니다. ※ 본 자료는 현재의 시장 상황을 감안하여 참고용으로만 제시된 것이며, 외부의 부당한 압력이나 간섭 없이 작성자 개인의 의견이 반영된 것입니다. 당사는 관련 법령에 허용된 범위 내에서 투자 전략 및 투자 프로세스를 결정하므로, 본 자료에 기재된 사항 중 관련 법령 및 계약서의 내용과 상이한 것은 효력이 없습니다. ※ 본 자료는 당사의 저작물로서 모든 지적재산권은 당사에 귀속되며 당사의 동의 없이 복제, 배포, 전송, 변형, 대여할 수 없습니다. 본 자료를 KB자산운용 임직원 외의 자로부터 입수하였을 경우, 자료 무단 제공 및 이용에 대한 책임은 전적으로 해당 제공자 및 이용자에게 있습니다. ※ 투자자는 투자 의사결정을 하시기 전에 반드시 집합투자규약 및 투자설명서를 수령하여 상품의 내용을 충분히 인지한 후 투자 결정하시기 바라며, 투자 전 판매 회사의 충분한 설명을 청취하시기 바랍니다. ※ 집합투자증권은 운용 결과에 따라 투자원금의 손실(0~100%)이 발생할 수 있으며, 그 손실은 투자자에게 귀속됩니다. ※ 집합투자증권을 취득하시기 전에 투자대상, 보수·수수료 및 환매방법 등에 관하여 (간이) 투자설명서를 반드시 읽어보시기 바랍니다. ※ 이 금융투자상품은 예금자보호법에 따라 보호되지 않습니다. ※ 합성총보수 비용 및 증권거래비용을 함께 고려하시기 바랍니다. ※ ETF 거래수수료는 별도로 발생할 수 있으니 거래증권사 홈페이지를 참고하시기 바랍니다. ※ RISE 미국반도체NYSE ETF: 총 보수 연 0.10%, 위험등급 2등급(높은위험)