KT클라우드, 엔비디아 ‘H200’ 자사 클라우드 도입

KT클라우드가 자체적으로 개발한 그래픽 처리장치 클라우드 서비스(GPUaaS)에 엔비디아 최신 GPU인 ‘H200’을 적용한다고 24일 밝혔다.

현재 KT클라우드는 단기간 대용량 GPU 학습에 특화된 ‘AI 트레인’과 적은 양의 GPU를 상시 공급하는 추론 특화 ‘AI SERV’ 등의 서비스를 제공하고 있다.

특히 GPUaaS는 그 중에서도 추론에 특화된 영역으로, 기존에는 해당 서비스에 이전 GPU 모델인 ‘H100’을 사용하는 것으로 알려졌다.

그러나 이번 업그레이드를 통해 GPUaaS는 물론 AI 트레인 영역에까지 H200을 적용하면서 성능이 크게 향상됐다는 설명이다.

엔비디아 H200 도입하는 KT클라우드 [KT클라우드 제공]

최신 모델 H200은 H100과 비교해 연산 처리 능력은 물론 전력 효율도 큰 폭으로 개선됐고, 메모리 대역폭이 넓어지면서 고성능 학습과 추론 인프라 환경을 제공한다.

현재 KT클라우드는 AI의 고도화된 추론을 담당하는 NPU(신경망 처리장치) 영역 경쟁력을 위해 AI 반도체 스타트업 ‘리벨리온’과도 협력하는 것으로 알려졌다.

이를 통해 추론 전용 인프라 ‘AI SERV NPU’가 현재 서비스 중이다.

향후 KT클라우드는 올해 5월 출시를 앞둔 리벨리온의 ‘아톰 맥스’를 AI SERV NPU에 적용해 성능을 검증할 계획이다.

KT클라우드 관계자는 “현재 미국 반도체 설계 업체 ‘암페어’와도 관련 사업 협력을 논의 중이다”라고 말했다.

또 “올해 하반기에는 공공 기관을 대상으로 추론 전용 상품을 공급할 수 있도록 보안인증제(CSAP) 절차를 밟을 것”이라고 덧붙였다.