구글이 차세대 인공지능(AI) 모델 '제미니(Gemini)'를 더욱 효율적으로 운영하기 위해 AI 모델 일부를 반도체에 직접 내장하는 새로운 서버용 칩을 개발 중인 것으로 알려졌다.

정보기술(IT) 전문매체 디인포메이션(The Information)은 20일(현지시간) 복수의 관계자를 인용해 구글이 내부적으로 '프로즌 v2(Frozen v2)'라는 이름의 새로운 서버용 AI 칩을 개발하고 있다고 보도했다.

새로운 칩은 제미니 AI 모델의 일부 기능을 반도체 내부에 직접 구현하는 방식으로 설계되고 있다.

기존처럼 소프트웨어가 모든 연산을 처리하는 것이 아니라 AI 모델의 핵심 정보를 칩 자체에 내장해 연산 효율을 크게 높이는 것이 목표인 것으로 전해졌다.

[로이터/연합뉴스 제공]

▲ AI 컴퓨팅 부족 해결 위한 전략

구글은 최근 AI 서비스 이용이 급증하면서 컴퓨팅 자원 부족 문제에 직면한 것으로 알려졌다.

디인포메이션 보도에 따르면 이러한 공급 부족은 내부 조직 간 갈등을 유발했으며, 구글 클라우드가 외부 고객과 일부 계약을 체결하지 못하는 상황까지 이어졌다.

새로운 AI 전용 칩은 이 같은 연산 능력 부족 문제를 해결하기 위한 핵심 프로젝트로 추진되고 있다.

▲ 2028년 도입 목표…설계 막바지 단계

로이터 통신에 따르면 구글은 해당 칩을 이르면 2028년부터 실제 서비스에 적용하는 것을 목표로 하고 있다.

다만 현재 엔지니어들은 칩 설계를 최종 조정하는 단계에 있으며, 제미니 모델의 어떤 정보를 반도체 내부에 직접 탑재할지에 대해서도 세부 설계를 진행 중인 것으로 알려졌다.

▲ 전력 효율 최대 10배 향상 기대

디인포메이션은 새로운 칩이 현재 구글의 최신 AI 반도체보다 전력 효율이 6~10배가량 향상될 가능성이 있다고 전했다.

효율성은 동일한 전력으로 얼마나 많은 AI 토큰(Token)을 처리할 수 있는지를 기준으로 평가됐다.

AI 모델 운용 비용의 상당 부분이 전력 소비에서 발생하는 만큼, 전력 효율 개선은 AI 서비스 경쟁력 확보의 핵심 요소로 평가되고 있다.

▲ 구글 "하드웨어·소프트웨어 함께 최적화"

구글 클라우드 대변인은 공식 입장을 통해 "연구팀은 지속적으로 새로운 혁신 기술을 연구하고 실험하고 있다"고 밝혔다.

이어 "하드웨어와 소프트웨어를 처음부터 함께 설계(Co-design)함으로써 시스템 전체를 긴밀하게 통합하고 최적화하고 있다"고 설명했다.

다만 새로운 칩 개발 계획 자체에 대해서는 구체적인 언급을 하지 않았다.

▲ TPU 대체 아닌 새로운 AI 칩 계열

보도에 따르면 '프로즌' 프로젝트는 기존 TPU(Tensor Processing Unit)를 대체하기 위한 것이 아니다.

구글은 TPU와는 별도로 새로운 자체 AI 반도체 제품군을 구축하는 전략을 추진하고 있으며, 다양한 AI 서비스 환경에 맞춰 반도체 포트폴리오를 확대하려는 것으로 전해졌다.