섹션

SKT 통신 특화 ‘텔코LLM’, 6월 출격

SK텔레콤이 최근 5G 요금제와 공시지원금 등 국내 통신 관련 제도와 내부 지침을 학습한 AI ‘텔코LLM’의 개발이 6월 중으로 개발이 완료된다고 30일 밝혔다.

이날 텔코LLM 설명회에서 SKT는 통신업 특화 모델이 개발되면 먼저 한국어 서비스를 시작할 예정이며, 이후 글로벌 버전 출시도 논의 중이라고 전했다.

LLM은 방대한 언어를 학습해 처리하는 AI 딥러닝 모델로, 범용적으로 사용할 수 있는 LLM으로는 ‘챗GPT’와 같은 모델이 있다.

텔코LLM은 범용성 대신 통신 업계에 특화된 정보만을 다루어 전문성을 높인 것이 특징으로, SKT와 오픈AI, 앤트로픽 등 글로벌 AI 기업과 협력해 개발 중이다.

AI 기술이 발전하고 있는 현재까지도 범용 LLM 하나로 통신사의 서비스 전반을 보조하는 것은 쉽지 않은 일인데, 데이터의 양은 물론 변화하는 각각의 기업 방침과 정부 제도를 반영해야 하기 때문이다.

이에 SKT는 통신 데이터와 도메인 노하우에 맞춰 미세 조정 및 모델 평가를 다수 거쳐 다양한 텔코LLM을 개발하고 이를 상황에 맞게 쓸 수 있도록 하는 ‘멀티LLM 전략’을 채택했다.

SKT의 텔코LLM 개념도 [SKT 제공]
SKT의 텔코LLM 개념도 [SKT 제공]

이를 통해 SKT는 다양한 통신사의 각기 다른 업무도 각각의 상황에 특화된 텔코LLM을 통해 업무 시간을 획기적으로 단축할 수 있을 것으로 기대했다.

대표적으로는 고객센터 분야의 상담 소요시간을 단축할 계획으로, AI가 상담사 대신 문의 내용 정리와 필요 문서 검색·요약, 내용 기록을 실시간으로 수행하게 된다.

SKT 관계자는 “고객센터와 인프라 외에도 마케팅부터 유통망까지 고객과의 접점이 생기는 여러 영역에서 텔코LLM은 업무 효율성 향상에 큰 도움이 될 것”이라고 강조했다.

SKT 본사 T타워
SKT 본사 T타워 전경 [연합뉴스 제공]

한편 이날 SKT는 통신사가 생성형 AI 앱을 쉽게 구축할 수 있게 돕는 '인텔리전스 플랫폼'도 공개했다.

해당 플랫폼은 기업용 AI 개발 및 운용 패키지로, 통신업에 특화된 LLM을 고객센터 콜봇·챗봇으로 사용할 수 있도록 보조한다.

SKT는 인텔리전스 플랫폼이 통신사와 비슷한 상담 업무를 수행하는 기업에서 활용할 수 있으며, 외국계 글로벌 통신사에서도 활용할 수 있도록 개발했다고 밝혔다.