인공지능(AI) 시장의 핵심 축이 '학습'에서 '추론'으로 이동하면서, 대한민국 AI 주권과 산업 경쟁력을 좌우할 핵심 동력으로 국산 신경망처리장치(NPU)가 급부상하고 있다. 정부는 공공 분야의 대대적인 NPU 전환 사업에 착수하고, 국내 기업들은 국산 NPU와 대규모언어모델(LLM)을 결합해 실생활 서비스에 성공적으로 적용하며 AI 공급망 자립의 새 시대를 열고 있다.
오늘(2026년 7월 19일) 현재, AI 시장의 무게중심은 모델 학습을 넘어 실제 서비스 구현을 위한 '추론'으로 이동했다. NPU는 이 AI 추론 작업에 특화돼 그래픽처리장치(GPU) 대비 전력 소모가 적고 비용 효율이 높다는 강점을 가진다. 이는 엔비디아 GPU 중심의 기존 AI 하드웨어 생태계에 새로운 대안을 제시한다.
정부는 국산 NPU를 AI 주권 확보의 핵심 하드웨어로 인식하고 공공 현장 보급에 속도를 내고 있다. 특히, 올해부터 5년간 공공 CCTV 5만여 대를 NPU 기반 AI 모니터링 체계로 전환하는 사업을 추진 중이며, 국방 분야에서도 해군 CCTV 교체 사업을 시행한다. 김은주 한국지능정보사회진흥원(NIA) 본부장은 지난 7월 14일, 「국산 NPU는 우리 기술로 AI 인프라를 개발하고 운영하기 위한 AI 주권의 핵심 기반」이라며 공공 부문의 선도적 도입이 초기 시장의 마중물이 될 것이라고 강조했다.
민간 분야에서는 국산 NPU와 LLM의 성공적인 결합 사례가 AI 자립의 가능성을 높이고 있다. 지난 7월 15일, 국내 AI 기업 업스테이지(LLM '솔라'), NPU 개발사 퓨리오사AI(NPU '레니게이드'), 포털 '다음' 운영사 AXZ는 협력 성과를 발표했다. '솔라' LLM을 '레니게이드' NPU에서 구동, 다음의 실시간 검색 요약 서비스에 적용한 결과, 하루 약 5억 개의 토큰을 처리하며 엔비디아 GPU와 유사한 성능을 구현했다. 이는 토큰 처리 비용을 대폭 낮출 수 있음을 입증하며 국산 AI 인프라의 경제성과 효율성을 증명했다.
