딥페이크 탐지한다…KAIST, 탐지 앱 '카이캐치' 개발

한국과학기술원(KAIST)이 딥페이크(deepfake·인공지능 영상 합성) 탐지 앱을 개발했다.

딥페이크는 인공지능(AI) 기술을 활용해 기존에 있던 인물의 얼굴이나, 특정한 부위를 영화의 CG처럼 합성한 영상편집물을 말한다.

딥페이크 기술은 최근 각종 위·변조 영상으로 인한 가짜 뉴스, 음란물 제작, 영상 증거 조작 등에 악용되어 사회적으로 논란이 되고 있다.

KAIST 제공

30일 KAIST에 따르면 모바일 앱 '카이캐치'(KaiCatch)는 디지털 사진의 변형 여부를 탐지한다.

이 어플은 전산학부 이흥규 교수 연구팀과 KAIST 창업기업인 디지탈이노텍이 공동으로 개발한 기술이 적용됐다.

이번 기술은 인공신경망을 이용해 사진의 위·변조 여부를 확인할 수 있는 기술이다.

연구팀은 30여만장의 이미지 데이터, 포렌식 영상 데이터, 딥페이크 실험 영상 자료 등을 인공신경망을 통해 학습해 미세 변형·이상 신호 흔적을 탐지할 수 있는 기술을 개발했다.

이를 이용해 얼굴 영역의 미세 변형이나 코, 입, 얼굴 윤곽 등 얼굴 내 기하학적 왜곡이 발생 가능한 영역에서 이상 신호 흔적을 분석해 딥페이크를 탐지하게 된다.

분석 결과는 0에서 100까지의 값으로 표시되며, 숫자가 높을수록 딥페이크일 확률이 높다는 뜻이다.

이 어플은 안드로이드 스마트폰에서 내려받아 사용할 수 있다.

이흥규 교수는 "예측할 수 없거나 알려지지 않은 변형 기법을 사용해도 90% 안팎의 높은 정확도로 탐지할 수 있다"며 "애플 iOS 기반 앱도 추가로 출시할 계획"이라고 말했다.

카이캐치 앱 / KAIST 제공