인공지능(AI) 산업의 핵심 경쟁 무대가 소프트웨어에서 컴퓨팅 인프라로 이동하면서 구글이 엔비디아 독주 체제에 본격적인 도전장을 내밀었다.

자체 AI 반도체인 TPU(Tensor Processing Unit)를 앞세운 구글은 대규모 자금력과 데이터센터 투자, 전략적 금융 지원을 무기로 시장 확대에 나서고 있다.

업계에서는 AI 칩 시장의 절대 강자로 군림해온 엔비디아가 처음으로 의미 있는 경쟁 압력에 직면했다는 평가가 나오고 있다.

▲ 구글, AI 칩 시장 공략 본격화

18일(현지 시각) 월스트리트저널(WSJ)에 따르면 구글은 최근 AI 산업에서 가장 중요한 자산으로 꼽히는 컴퓨팅 시장 점유율 확대에 적극 나섰다.

미국 뉴욕주 레이크 마리너(Lake Mariner) 데이터센터 프로젝트는 이러한 전략을 상징적으로 보여주는 사례다.

구글은 약 32억 달러 규모의 재정 보증을 제공했으며, 해당 시설에서 운영되는 수천 개의 TPU 컴퓨팅 자원을 AI 기업 앤트로픽(Anthropic)이 임대하는 구조를 구축했다.

이는 엔비디아가 그동안 AI 칩 수요를 확대하기 위해 활용해 온 전략과 매우 유사한 방식이다. 데이터센터 사업자들에게 자금 조달을 지원하고, 해당 자금이 다시 칩 구매로 이어지는 순환 구조를 형성해 시장을 확대하는 모델을 그대로 적용했다.

▲ 엔비디아 독주 체제에 균열 조짐

그동안 AI 반도체 시장은 사실상 엔비디아의 독무대였다.

GPU(Graphics Processing Unit)는 대규모 AI 모델 학습과 운영에 필수적인 장비로 자리 잡으며 시장 점유율 90% 이상을 차지한 것으로 평가받고 있다.

그러나 AI 경쟁이 모델 개발에서 컴퓨팅 자원 확보 경쟁으로 전환되면서 상황이 달라지기 시작했다. AI 서비스 확대에 필요한 연산 능력이 급증하면서 대체 공급자에 대한 수요가 증가했고, 구글은 가장 강력한 도전자로 부상했다.

업계에서는 AI 컴퓨팅 시장의 성장 가능성이 매우 크기 때문에 대형 기술기업들이 엔비디아 의존도를 낮추고 새로운 공급망 확보에 나서고 있다고 분석했다.

구글[UPI/연합뉴스 제공]

▲ TPU 상용화 확대 전략 가속

구글은 오랫동안 TPU를 자체 서비스에만 활용해 왔다.

검색엔진과 AI 모델 개발, 각종 서비스 운영에 사용됐던 TPU는 최근 클라우드 사업을 통해 외부 고객에게도 제공되기 시작했다. 이는 구글 클라우드 사업 성장의 핵심 동력으로 작용했다.

특히 지난해 공개된 7세대 TPU는 앤트로픽의 AI 모델 학습에 활용되며 성능을 입증했다.

시장조사업체들은 TPU가 엔비디아 GPU의 실질적인 대안으로 자리 잡을 가능성이 점차 커지고 있다고 평가했다.

▲ 직접 판매 선언으로 경쟁 수위 높여

구글은 올해 5월 TPU 직접 판매 계획까지 발표하며 공격적인 행보를 이어갔다.

또한 AI 추론(Inference)에 특화된 최초의 TPU 제품도 공개했다. 추론은 사용자의 질문에 실시간으로 답변하는 과정에서 필요한 연산 방식으로, 생성형 AI 서비스 확대에 따라 중요성이 급격히 높아지고 있는 분야다.

구글은 해당 제품이 비용 효율성과 처리 속도 측면에서 엔비디아 제품과 경쟁할 수 있다고 판단하고 있다.

실제로 금융기업 시타델 시큐리티즈(Citadel Securities)는 일부 연구용 워크로드에서 TPU를 활용한 결과 운영 비용을 약 30% 절감하고 처리 속도는 최대 4배 향상됐다고 밝혔다.

▲ 고객 확보 위한 금융 지원 전략 주목

구글의 가장 큰 강점은 막대한 자금력이다.

구글은 AI 인프라 확대를 위해 올해 850억 달러 규모 자금 조달 계획을 발표했다. 이는 경쟁 업체들이 쉽게 따라오기 어려운 수준이다.

또한 루이지애나주의 '리버 벤드(River Bend)' 프로젝트와 텍사스주의 AI 데이터센터 프로젝트에도 각각 수십억 달러 규모의 재정 보증을 제공하고 있다.

업계 관계자들은 현재 AI 컴퓨팅 부족 현상이 심화되면서 과거에는 상상하기 어려웠던 투자 구조가 가능해졌다고 평가했다. 불과 1년 전만 해도 엔비디아와의 관계 악화를 우려해 구글과 협력하기 어려웠지만, 현재는 시장 환경이 크게 변화했다는 분석이다.

▲ 엔비디아의 방어 전략도 견고

그러나 엔비디아의 시장 지배력은 여전히 강력하다.

엔비디아는 칩뿐 아니라 서버 연결 기술과 CUDA 소프트웨어 플랫폼까지 포함한 완성형 생태계를 구축했다. AI 기업들은 상대적으로 쉽게 시스템을 구축할 수 있어 엔비디아 플랫폼에 대한 의존도가 높다.

업계에서는 일부 클라우드 기업들이 엔비디아 칩 공급 물량 배정을 우려해 다른 칩 제조사와의 협력을 주저하는 현상까지 나타나고 있다고 전했다.

이른바 '젠슨 감옥(Jensen Jail)'이라는 표현까지 등장할 정도로 엔비디아 최고경영자 젠슨 황의 영향력이 막강하다는 평가가 나온다.

다만 젠슨 황은 공개 석상에서 고객들이 필요한 제품만 선택적으로 구매해도 환영한다는 입장을 밝히며 시장 지배력 논란을 완화하려는 모습을 보였다.

▲ AI 반도체 경쟁, 새로운 국면 진입

구글의 AI 인프라 전략 변화 중심에는 아민 바닷(Amin Vahdat) 최고기술책임자가 있다.

그는 지난해 말 AI 인프라 구축 전반을 총괄하는 역할로 승진했으며, 칩 설계와 공급망, 배포 전략까지 책임지고 있다.

구글 내부에서는 최근 2년 동안 TPU의 상업적 활용 가능성에 대한 관심이 크게 높아졌으며, 특히 추론 성능 향상에 집중 투자해 왔다고 전해졌다.

현재 구글 AI 인프라 조직은 이전보다 훨씬 공격적인 목표를 설정하고 있으며, 칩 성능을 지속적으로 개선하는 데 역량을 집중하고 있다.

▲ AI 컴퓨팅 시장, 승자독식 아닌 공존 가능성

흥미로운 점은 구글이 엔비디아를 완전한 적으로 보지 않는다는 점이다.

구글 역시 데이터센터에서 엔비디아 GPU를 사용하고 있으며, 양사는 경쟁자이면서 동시에 협력 관계를 유지하고 있다.

아민 바닷은 "AI 시장에는 엄청난 수요가 존재한다"며 "이는 제로섬 게임이 아니다"라고 강조했다.