MS, 엔비디아 호퍼칩 경쟁사의 2배 더 구매

오픈AI의 최대 투자자인 마이크로소프트가 인공 지능(AI) 인프라에 대한 투자를 가속화하면서 올해 미국과 중국의 최대 경쟁사보다 두 배나 많은 앤바다어의 주력 칩을 구매했다.

기술 컨설팅 업체인 옴디아(Omdia)의 분석가들은 올해 마이크로소프트가 48만 5000개의 엔비디아 '호퍼' 칩을 구매한 것으로 추정한다라고 18일(현지 시각) 파이낸셜타임스(FT)가 보도했다.

이는 22만 4000개의 호퍼 칩을 구매한 메타는 물론 클라우드 컴퓨팅 경쟁사인 아마존과 구글보다 훨씬 앞선 수치다.

지난 2년간 엔비디아의 최첨단 그래픽 처리 장치에 대한 수요가 공급을 앞지르면서, 마이크로소프트는 칩 비축을 통해 차세대 AI 시스템 구축 경쟁에서 우위를 점할 수 있게 되었다.

올해 빅테크 기업들은 엔비디아의 최신 칩을 실행하는 데이터센터에 수백억 달러를 투자했다. 이는 2년 전 챗GPT의 데뷔 이후 실리콘밸리에서 가장 인기 있는 상품이 되어 AI에 대한 전례 없는 투자 급증의 시발점이 되었다.

마이크로소프트의 애저 클라우드 인프라는 차세대 컴퓨팅의 주도권을 잡기 위해 부활한 구글, 앤트로픽과 엘론 머스크의 xAI와 같은 스타트업, 중국의 라이벌들과 경쟁하는 오픈AI의 최신 o1 모델을 훈련하는 데 사용되었다.

옴디아는 바이트댄스와 텐센트가 올해 각각 약 23만 개의 엔비디아 칩을 주문했으며, 여기에는 중국 고객을 위해 미국의 수출 통제를 충족하도록 수정된 호퍼의 저전력 버전인 H20 모델도 포함된다고 추정했다.

분석가들은 메타와 함께 엔비디아의 대안으로 자체 맞춤형 AI 칩 배포를 강화하고 있는 아마존과 구글이 각각 19만 6000개와 16만 9000개의 호퍼 칩을 구매했다고 말했다.

옴디아는 공개적으로 공개된 기업의 자본 지출, 서버 출하량, 공급망 정보를 분석하여 추정치를 산출한다.

현재 호퍼의 후속 제품인 블랙웰을 출시하기 시작한 엔비디아의 가치는 올해 빅 테크 기업들이 점점 더 큰 GPU 클러스터를 조립하기 위해 서두르면서 3조 달러 이상으로 치솟았다.

[로이터/연합뉴스 제공]

그러나 최근 몇 달 동안 성장 둔화, 빅 테크 기업의 자체 맞춤형 AI 칩과의 경쟁, 도널드 트럼프 미국 행정부의 중국 사업 차질 가능성에 대한 우려로 인해 주가가 급등세가 주춤하고 있다.

바이트댄스와 텐센트는 미국 정부가 중국에서 판매할 수 있는 미국산 AI 칩의 기능을 제한하고 있음에도 불구하고 올해 엔비디아의 최대 고객으로 부상했다.

오픈AI에 130억 달러(18조 6654억원)를 투자한 MS는 미국 빅테크 기업 중 가장 공격적으로 데이터센터 인프라를 구축하여 코파일럿(Copilot) 어시스턴트와 같은 자체 AI 서비스를 운영하고 애저 부서를 통해 고객에게 임대하는 데 주력해 왔다.

MS의 엔비디아칩 주문량은 지난해 구매한 같은 세대의 엔비디아 AI 프로세서 수의 3배가 넘는다. 이는 챗GPT의 획기적인 성공 이후 엔비디아가 호퍼의 생산량을 늘리기 위해 경쟁하던 시기다.

MS의 앨리스테어 스피어스 애저 글로벌 인프라 수석 디렉터는 파이낸셜 타임즈에 “좋은 데이터 센터 인프라는 매우 복잡하고 자본 집약적인 프로젝트다"라며 “수년에 걸친 계획이 필요합니다. 따라서 약간의 버퍼를 두고 성장의 방향을 예측하는 것이 중요하다"라고 말했다.

옴디아에 따르면 전 세계 기술 기업은 올해 서버에 약 2290억 달러를 지출할 것으로 예상되며, MS가 310억 달러, 아마존이 260억 달러의 자본 지출을 주도할 것으로 예상된다.

데이터센터 인프라의 상위 10개 구매업체(현재 상대적으로 신생 업체인 xAI와 코어위브 포함)는 전 세계 컴퓨팅 파워 투자의 60%를 차지한다.

옴디아의 클라우드 및 데이터센터 연구 책임자인 블라드 갈라보프는 올해 서버에 대한 지출의 약 43%가 엔비디아에 돌아갈 것이라고 말했다.

그는 “서버 설비 투자에서 엔비디아 GPU가 차지하는 비중이 엄청나게 높다. 정점에 가까워지고 있다"라고 설명했다.

엔비디아가 여전히 AI 칩 시장을 장악하고 있지만, 실리콘밸리의 라이벌인 AMD도 진출하고 있다.

옴디아에 따르면 메타는 올해 AMD의 MI300 칩을 17만 3000개 구입했고, 마이크로소프트는 9만 6000개를 구입했다.

빅 테크 기업들도 올해 엔비디아에 대한 의존도를 낮추기 위해 자체 AI 칩 사용을 늘리고 있다.

10년 동안 '텐서 처리 장치'(TPU)를 개발해온 구글과 작년에 1세대 메타 트레이닝 및 추론 가속기 칩을 선보인 메타는 각각 약 150만 개의 자체 칩을 배포했다.

클라우드 컴퓨팅 고객을 위해 트레이니움 및 인페렌시아 칩에 막대한 투자를 하고 있는 아마존은 올해 약 130만 개의 칩을 배포했다.

아마존은 이번 달에 차세대 AI 모델을 훈련하기 위해 아마존이 80억 달러를 투자한 오픈AI 경쟁사인 앤스로픽(Anthropic)을 위해 수십만 개의 최신 트레이늄(Trainium) 칩을 사용하여 새로운 클러스터를 구축할 계획이라고 밝혔다.

그러나 MS는 올해 마이아 칩을 약 20만 개만 설치하는 등 엔비디아에 필적하는 AI 가속기를 구축하려는 노력에서 훨씬 앞서고 있다.

스피어스는 엔비디아의 칩을 사용하더라도 고객에게 '고유한' 서비스를 제공하기 위해 마이크로소프트는 자체 기술에 상당한 투자를 해야 한다고 말했다.

그는 “경험상 AI 인프라를 구축한다는 것은 최고의 칩을 보유하는 것뿐만 아니라 올바른 스토리지 구성 요소, 올바른 인프라, 올바른 소프트웨어 계층, 올바른 호스트 관리 계층, 오류 수정 및 시스템을 구축하기 위한 기타 모든 구성 요소를 보유하는 것이기도 한다"라고 말했다.