KT클라우드, AI 추론 전용 인프라서비스 'AI SERV' 출시

KT의 DX(디지털전환) 전문 자회사 KT클라우드가 슬라이싱 기술을 GPU(그래픽처리장치)에 적용한 AI 전용 추론 인프라 서비스 'AI SERV'를 출시했다고 16일 밝혔다.

KT클라우드는 AI SERV가 높은 처리 성능을 요구하는 AI에 맞춘 인프라 제공 서비스로, 최적의 GPU 인프라를 할당하여 AI 운용비의 효율성을 높일 수 있다고 전했다.

특히 AI 개발·학습을 마치고 AI 서비스를 제공 중인 AI 전문기업과 스타트업을 중심으로 수요가 확대될 것으로 전망했다.

AI SERV에 적용된 슬라이싱 기술은 기존에 한 장으로 제공되던 GPU 서비스를 5분할해 0.2장 단위로 제공, 가격 부담을 줄이고 탄력적이고 가변적인 활용이 가능한 것으로 알려졌다.

KT클라우드의 AI 추론 전용 인프라 서비스 'AI SERV' [KT클라우드 제공]

한편 KT클라우드는 향후 AI SERV 사용자에게 손쉬운 인프라 확장을 위한 모니터링과 컨테이너 이미지 클로닝 기능 제공 등 지속적인 서비스 고도화를 약속했다.

윤동식 KT클라우드 대표는 "이번 AI SERV 출시로 고객들이 AI 학습부터 추론, 서빙 환경 구성까지 각 단계에서 최적의 인프라를 보다 합리적인 비용으로 사용할 수 있게 됐다"라고 밝혔다.

이어 "국내외 파트너사와 협력해 초거대 AI 산업의 활성화와 생태계 확장을 위해 지속 노력할 것"이라고 말했다.

KT 클라우드 로고 [자료=KT클라우드]