정부, 딥페이크 감별 AI 모델 개발

정부가 AI를 활용해 인물과 목소리를 변조하는 딥페이크 조작 여부를 가려내는 새로운 데이터 분석 모델을 개발한다.

행정안전부는 국민 생활과 밀접한 딥페이크 사회문제를 선제적으로 대응하기 위해 지난 9일 5개 분야에 걸친 12건의 데이터 분석 과제를 선정했다고 10일 밝혔다.

주요 선정 과제는 ‘AI 활용 딥페이크 분석모델 개발’로, 하나의 음성종합 시스템을 통해 영상물의 어떤 부분에서 조작이 일어났는지 파악하는 것이 목표다.

기존에는 변조 프로그램으로 영상을 합성할 경우 육안으로도 분별할 수 있을 만큼 품질이 조악했으나, 최근 점점 정교한 가짜 영상이 늘어나고 있다.

특히 AI를 활용해 딥페이크 기술을 보완하면서 최근에는 컴퓨터 프로그램으로도 영상의 진위 여부를 판별하기 어려운 사례가 늘어나는 분위기이다.

행정안전부 [연합뉴스 제공]

이에 행안부는 국립과학수사연구원과 함께 내년 2월까지 분석 모델을 개발해 딥페이크 불법 콘텐츠에 대응할 계획이다.

한편 이러한 정교한 분석 모델은 산업 현장에서의 장해등급을 예측·분석하는데도 사용될 수 있을 것으로 기대받고 있다.

행안부는 기존에 산업재해로 인한 장해등급 판정 시 주치의 진단과 최종 판정 사이의 불일치가 발생하는 경우가 많아 불법 브로커가 등장하는 등 부작용이 존재한다고 밝혔다.

그러나 AI 분석 모델에 약 2억 건에 달하는 산재근로자 빅데이터를 학습시킬 경우 장해등급 신청과 판정 과정에서도 신속하고 공정한 처리가 가능하다는 설명이다.

행정안전부 배일권 공공데이터국장은 "앞으로도 국민 생활과 밀접한 다양한 분야에서 AI 기반의 과학적 데이터 분석을 확대해 나갈 예정"이라고 말했다.

이어 "데이터 분석의 질을 높여 국민이 체감할 수 있는 공공서비스의 개선을 이어가겠다"라고 덧붙였다.