카카오, 자체 LLM ‘카나나’ 경량모델 공개

카카오가 자체적으로 연구하던 대형언어모델 ‘카나나’의 개발을 완료하고 일부 시스템을 공개했다.

카카오는 지난 27일 카나나의 연구 성과를 담은 테크니컬 리포트를 아카이브에 공개하고 경량화한 모델인 ‘카나나 나노 2.1B’를 오픈소스 플랫폼 ‘깃허브’에 배포했다고 28일 밝혔다.

테크니컬 리포트에는 다양한 사이즈로 구성된 카나나 언어모델 트레이닝 과정이 상세하게 담긴 것으로 알려졌다

아울러 카나나 모델의 구조와 학습 전략, 벤치마크 성과 등이 포함됐다.

카카오는 카나나의 초거대 모델인 ‘카나나 플래그’의 학습이 지난해 말 완료됐으며, 이를 통해 플래그·에센스·나노에 이르는 언어모델 전체 라인업을 구축했다고 밝혔다.

LLM 카나나 테크니컬 리포트 [카카오 제공]

특히 가장 거대한 카나나 플래그의 경우 글로벌 최고 수준의 한국어·영어 성능을 가졌으며, 한국어 성능 평가 벤치마크에서는 타 모델보다 월등히 더 뛰어나다고 강조했다.

향후 카카오는 카나나 모델의 추론·수학·코딩 능력을 높이고 정력 기술 고도화로 더욱 정밀한 작업 수행이 가능하도록 한다는 계획이다.

한편 깃허브에 공개된 모델은 연구자와 개발자 모두가 활용할 수 있는 크기로, 기기 내부에서 동작하는 ‘온디바이스 AI’로서도 동작 가능하다.

카카오 관계자는 “모델 최적화와 경량화 기술을 통해 작은 모델이지만 유사한 크기의 글로벌 모델과 경쟁할 수 있는 수행 능력을 가졌다”라고 말했다.

또 “AI 모델의 오픈소스 공개를 통해 국내 AI 생태계를 활성화할 것”이라는 포부를 밝혔다.