오픈AI와 브로드컴이 인공지능(AI) 추론(Inference)에 특화된 맞춤형 반도체를 공동 개발했다.

생성형 AI 서비스 확산으로 컴퓨팅 비용이 급증하는 가운데 자체 반도체를 통해 성능은 높이고 운영 비용은 낮추려는 전략으로 풀이된다.

이번 협력은 오픈AI가 AI 모델부터 하드웨어까지 직접 설계하는 '풀스택 AI' 전략을 본격화했다는 점에서 업계의 주목을 받고 있다.

▲ AI 추론 전용 칩 '할라피뇨' 공동 개발

24일(현지 시각) 월스트리트저널(WSJ)에 따르면 오픈AI와 브로드컴은 대규모 언어모델(LLM) 추론 작업에 최적화한 맞춤형 AI 칩 '할라피뇨(Jalapeño)'를 공동 개발했다고 밝혔다.

양사는 이 칩을 기존 범용 반도체를 개조한 방식이 아니라 처음부터 AI 추론 전용으로 새롭게 설계했다고 설명했다. 이를 통해 AI 서비스 운영 효율을 높이고 대규모 서비스에 필요한 비용을 절감하는 것이 목표라고 밝혔다.

▲ 전력 효율 대폭 개선…"기존 최고 수준 능가"

양사는 초기 테스트 결과 할라피뇨가 현재 최첨단 AI 반도체보다 와트당 성능(per watt)이 크게 향상된 것으로 나타났다고 밝혔다.

구체적인 성능 수치는 공개하지 않았지만 향후 수개월 내 보다 상세한 기술 보고서를 발표할 예정이라고 설명했다.

AI 데이터센터에서는 전력 소비가 핵심 경쟁력으로 꼽히는 만큼 높은 전력 효율은 운영 비용 절감과 서비스 확장성을 동시에 확보할 수 있는 중요한 요소로 평가됐다.

▲ LLM 구조에 맞춰 처음부터 설계

할라피뇨는 범용 컴퓨팅 구조를 활용한 기존 반도체와 달리 대규모 언어모델이 사용하는 메모리와 네트워크, 연산 패턴에 맞춰 설계됐다.

이는 AI 모델이 실제 수행하는 추론 작업에 최적화된 구조를 적용함으로써 불필요한 연산을 줄이고 처리 속도를 높이기 위한 전략이라고 양사는 설명했다.

오픈AI는 이를 통해 외부 반도체 공급업체에 대한 의존도를 낮추고 AI 서비스 인프라를 자체적으로 최적화하는 기반을 마련했다고 밝혔다.

오픈AI(Photo : [로이터/연합뉴스 제공])

▲ "컴퓨팅이 경제를 움직이는 시대"

그렉 브록먼 오픈AI 공동창업자 겸 사장은 "세계는 컴퓨팅 중심 경제로 빠르게 이동하고 있다"고 말했다.

그는 "기술 스택을 더 많이 직접 설계할수록 더 높은 효율로 더 많은 AI 서비스를 제공할 수 있으며, 첨단 AI를 보다 폭넓게 보급할 수 있다"고 강조했다.

이는 AI 경쟁력이 소프트웨어뿐 아니라 반도체와 인프라 설계 능력까지 확대되고 있음을 시사하는 발언으로 해석됐다.

▲ 브로드컴 "장기 협력의 출발점"

브로드컴은 이번 프로젝트에서 반도체 구현 기술과 네트워크 기술을 제공했다고 밝혔다.

회사 측은 이번 협력이 단일 프로젝트가 아니라 차세대 AI 인프라 구축을 위한 다세대(Multi-generation) 공동 개발의 출발점이라고 설명했다.

양사는 지난해에도 향후 4년 동안 총 10기가와트(GW) 규모의 맞춤형 AI 반도체와 컴퓨팅 시스템을 공동 개발·배치하겠다는 계획을 발표한 바 있다.