업스테이지, 자체 개발 LLM 모델 '솔라' 카카오톡 적용

AI 스타트업 업스테이지가 최근 자체 개발한 LLM(거대언어모델) '솔라'를 카카오톡 '애스크업'(AskUp·)에 적용했다고 11일 밝혔다.

애스크업은 업스테이지가 개발한 카톡 챗봇 메신저로, 현재 165만 명의 이용자를 확보하고 있다.

솔라는 챗봇에서 이미지 생성, OCR(광학문자인식) 등의 생성 및 분석 서비스를 제공하며, 사용자는 카카오톡 채널 추가를 통해 서비스를 이용할 수 있다.

특히 OCR은 종이에 적힌 글자 사진을 컴퓨터 텍스트로 변환하는 기술이며, 별도의 타이핑 작업 없이 종이 자료를 전산화할 수 있기에 서류작업에서 자주 사용된다.

한편 솔라는 업스테이지가 지난 2023년 12월 공개한 AI로, LLM 중에서도 카카오톡 같은 메신저 앱에 최적화된 sLLM(경량형 언어모델)이다.

업스테이지가 개발한 '솔라' AI가 카카오톡 챗봇에 활용되는 모습 [업스테이지 제공]

‘솔라’는 107억 개 규모의 파라미터를 가지고 있으며, 이는 1750억 개의 파라미터를 가진 챗 GPT-3 보다도 훨씬 작다.

하지만 특정 작업에서만 사용할 수 있도록 범위를 축소한 대신 효율성과 최적화에 집중했기에, 실제로는 범용 LLM보다 더 빠른 처리 속도를 보인다.

업스테이지 관계자는 "솔라가 적용된 애스크업은 내부 시험 결과 GPT-4를 웃도는 속도와 비슷한 수준의 성능으로 사용자의 질문에 대해 자연스러운 답변을 제공한다"라고 밝혔다.

한편 업스테이지는 현재 챗봇 대화 보조로 솔라가 가진 기능 중 10% 정도만 우선 도입했으며, 점차 비중을 확대한다는 방침이다.