퀄컴 vs 엔비디아, AI 칩 효율성 테스트 경쟁

지난 5일에 발표된 새로운 테스트 데이터에서 퀄컴의 인공지능 칩이 엔비디아를 3가지 중 2가지에서 전력 효율성 측면에서 이겼으며, 대만의 스타트업 뉴칩스는 한 분야에서 둘 다를 이겼다고 로이터 통신이 5일(현지시각) 보도했다.

엔비디아는 대량의 데이터로 AI 모델을 학습시키는 시장에서 지배적인 위치에 있다. 그러나 이러한 AI 모델이 훈련된 후에는 그들은 '추론'이라고 불리는 작업에서 보다 넓은 용도로 사용된다. 예를 들어 프롬프트에 대한 텍스트 응답을 생성하거나 이미지에 고양이가 포함되어 있는지 여부를 결정하는 작업을 수행한다.

분석가들은 기업들이 제품에 인공지능 기술을 도입함에 따라 데이터 센터 추론 칩 시장이 빠르게 성장할 것으로 예상하고 있지만, 구글과 같은 기업들은 이미 이에 따른 추가 비용을 줄이기 위한 방법을 탐구하고 있다.

[로이터/연합뉴스 제공]

그 중에서도 가장 큰 비용 중 하나는 전기 비용이다.

퀄컴은 스마트폰과 같은 배터리 구동 장치용 칩을 설계한 경험을 활용해 절약형 전력 소비를 목표로 하는 '클라우드 AI 100'이라는 칩을 개발했다.

AI 칩 업계에서 널리 사용되는 테스트 벤치마크를 관리하는 엔지니어링 컨소시엄인 엠엘커먼스(MLCommons)가 5일 발표한 테스트 데이터에서, 퀄컴의 AI 100은 각 칩당 수행할 수 있는 데이터 센터 서버 쿼리 수에 기반하여 이미지 를 분류하는 작업에서 엔비디아의 대표적인 H100 칩을 이겼다.

퀄컴의 칩은 와트당 197.6개의 서버 쿼리를 수행했으며, 엔비디아의 경우 와트당 108.4개의 쿼리를 수행했다. 뉴칩스(Neuchips)는 대만의 베테랑 칩 학자 유롱린(Yon-Long Lin)에 의해 설립된 스타트업으로 와트당 227개의 쿼리로 1위를 차지했다.

퀄컴은 객체 감지에서도 와트당 3.2개의 쿼리를 기록해, 엔비디아의 와트당 2.4개의 쿼리보다 높은 수치를 기록했다. 객체 감지는 쇼핑객이 소매점 내에서 가장 자주 가는 곳을 확인하기 위해 소매점의 영상을 분석하는 것과 같은 응용 프로그램에 사용될 수 있다.

그러나 엔비디아는 챗봇과 같은 시스템에서 가장 널리 사용되는 AI 기술인 자연어 처리 테스트에서 절대 성능과 전력 효율 측면에서 모두 1위를 차지했다. 엔비디아는 와트당 10.8개의 샘플을 기록했고 뉴칩스는 와트당 8.9개의 샘플로 2위를 차지했으며 퀄컴은 와트당 7.5개의 샘플로 3위를 차지했다.