메타 자체 AI 훈련 칩 테스트 시작…엔비디아 의존 줄인다

메타(Meta)가 자체 개발한 훈련용 인공지능(AI) 칩 테스트를 시작했다고 12일(현지 시각) 로이터 통신은 두 명의 소식통을 인용 보도했다.

자체 칩 개발 추진은 성장을 촉진하기 위해 AI 도구에 막대한 비용을 투자하는 메타의 장기 계획의 일환으로, 막대한 인프라 비용을 줄이고 엔비디아와 같은 외부 공급업체에 대한 의존도를 낮추기 위한 노력의 일환으로 알려졌다.

메타는 이 칩의 소규모 배포를 시작했으며 테스트가 순조롭게 진행되면 대규모 사용을 위해 생산을 늘릴 계획이라고 소식통은 말했습니다.

인스타그램과 왓츠앱도 소유하고 있는 메타는 올해 총 1140억 달러(약 165조 5394억원)에서 1190억 달러(약 172조 7999억원)의 비용을 전망되며 여기에는 주로 AI 인프라에 대한 지출로 인해 최대 650억 달러의 자본 지출이 포함될 것으로 예상했다.

소식통 중 한 명은 메타의 새로운 트레이닝 칩이 전용 가속기이며, 이는 AI 전용 작업만 처리하도록 설계되었다는 것을 의미한다고 말했다.

따라서 일반적으로 AI 워크로드에 사용되는 통합 그래픽 처리 장치(GPU)보다 전력 효율이 더 높을 수 있다.

메타는 이 칩을 생산하기 위해 대만의 칩 제조업체인 TSMC와 협력하고 있다고 이 소식통은 말했다.

다른 소식통은 메타가 칩의 첫 번째 테이프 아웃을 마친 후 테스트 배포가 시작되었으며, 이는 칩 공장을 통해 초기 설계를 보내는 실리콘 개발 작업에서 성공의 중요한 지표라고 말했다.

일반적인 테이프 아웃은 수천만 달러의 비용이 들고 완료하는 데 약 3~6개월이 걸리며, 테스트가 성공할 것이라는 보장은 없다. 실패하면 메타는 문제를 진단하고 테이프 아웃 단계를 반복해야 한다.

이 칩은 메타의 메타 트레이닝 및 추론 가속기(MTIA) 시리즈 중 가장 최신 제품이다. 이 프로그램은 수년 동안 불안정한 출발을 보였으며 한때 비슷한 개발 단계에서 칩을 폐기하기도 했다.

하지만 작년부터 메타는 MTIA 칩을 사용하여 페이스북과 인스타그램 뉴스피드에 표시할 콘텐츠를 결정하는 추천 시스템에서 추론, 즉 사용자가 AI 시스템과 상호 작용할 때 시스템을 실행하는 프로세스를 수행하기 시작했다.

[AFP/연합뉴스 제공]

메타 경영진은 2026년까지 자체 칩을 트레이닝, 즉 AI 시스템에 방대한 양의 데이터를 제공하여 작동 방법을 '학습'시키는 컴퓨팅 집약적인 프로세스에 사용할 계획이라고 밝혔다.

추론 칩과 마찬가지로 트레이닝 칩의 목표는 추천 시스템으로 시작하여 나중에 챗봇 메타 AI와 같은 생성형 AI 제품에 사용하는 것이라고 메타 경영진은 말했다.

지난주 모건 스탠리 기술, 미디어 및 통신 컨퍼런스에서 메타의 최고 제품 책임자 크리스 콕스(Chris Cox)는 “우리는 추천 시스템을 위한 트레이닝을 어떻게 할 것인지 연구하고 있으며, 궁극적으로는 제너럴 AI를 위한 트레이닝과 추론에 대해 어떻게 생각할 것인지 연구하고 있다"라고 말했다.

콕스 책임자는 "메타의 칩 개발 노력을 지금까지 걷고, 기어가고, 뛰는 상황이라고 설명했지만 경영진은 추천을 위한 1세대 추론 칩이 큰 성공이라고 생각한다"라고 말했다.

메타는 이전에 사내 맞춤형 추론 칩이 현재 트레이닝 칩을 위해 진행하고 있는 것과 유사한 소규모 테스트 배포에서 실패한 후 이를 중단하고 대신 2022년에 수십억 달러 상당의 엔비디아 GPU를 주문한 바 있다.

그 이후로도 이 소셜 미디어 회사는 추천 및 광고 시스템과 라마 파운데이션 모델 시리즈 등 모델 트레이닝을 위한 GPU를 대량으로 확보하며 엔비디아의 최대 고객 중 하나로 남아 있다.

또한 매일 앱을 사용하는 30억 명 이상의 사용자에 대한 추론도 수행한다.