조르자 멜로니 이탈리아 총리의 인공지능(AI) 조작 사진이 온라인에 유포되며 딥페이크 기술의 위험성이 국제사회에 다시 부각되고 있다. 이는 단순한 개인 명예훼손을 넘어 국가 지도자까지 겨냥하는 디지털 위협이 심화되고 있음을 명백히 보여준다. 각국 정부와 기업은 AI 오남용 방지 및 사회 질서 유지를 위한 강력한 대응책 마련에 직면하였다.

이탈리아의 조르자 멜로니 총리를 대상으로 한 인공지능(AI) 조작 사진이 온라인에서 확산되면서, 딥페이크 기술이 초래하는 사회적 파장이 전 세계적으로 심각한 수준에 이르렀다는 경고가 나온다. 이 사건은 디지털 허위 정보가 개인의 명예뿐 아니라 공적 인물의 신뢰도와 정치적 안정성까지 위협할 수 있음을 입증한다. 특히 국가 지도자를 겨냥한 AI 악용 사례는 민주주의 근간을 흔들 수 있다는 점에서 국제사회의 우려가 깊어진다.

멜로니 총리는 문제의 AI 조작 사진을 직접 소셜미디어에 공개하며 딥페이크의 위험성을 적극적으로 알렸다. 해당 사진에는 멜로니 총리가 노출이 심한 란제리 차림으로 등장하며, 총리는 이를 "일부 열성적인 반대 세력이 실제 사진인 것처럼 퍼뜨리고 있다"고 지적하였다. 그는 딥페이크를 "누구든 속이고 조작하고 공격할 수 있는 위험한 도구"라고 규정하며, "나는 스스로를 방어할 수 있지만 많은 사람은 그렇지 못하다"고 경고하였다.

이번 사건은 멜로니 총리를 겨냥한 AI 조작 공격이 처음이 아니라는 점에서 그 심각성을 더한다. 앞서 멜로니 총리는 2024년 3월, 자신의 얼굴을 합성한 딥페이크 음란 동영상을 제작·유포한 부자를 상대로 10만 유로(약 1억 7천만원) 규모의 손해배상 소송을 제기한 바 있다. 이러한 반복적인 공격은 정치적 목적을 가진 AI 조작이 현실화되고 있음을 시사하며, 멜로니 총리 딥페이크 위험성은 단순한 기술적 문제가 아님을 보여준다.

글로벌 언론 보도에 따르면, 로이터 통신은 이번 사건이 전 세계적으로 확산하는 가짜뉴스 사회적 파장의 한 단면을 보여준다고 분석한다. 인공지능 악용 사례는 정치인을 넘어 일반인에게까지 피해를 확산시키고 있으며, 온라인 허위 정보는 사회적 불신을 심화시키고 디지털 윤리 의식을 훼손하는 핵심 요인으로 지목된다. 각국 정부는 AI 규제 논의를 서두르고 있으나, 기술 발전 속도를 따라잡기에는 역부족이라는 지적이 지배적이다.

블룸버그 통신은 이탈리아 총리 사례가 AI 기술이 가져올 미래 사회의 혼란상을 예고한다고 평가한다. 특히 생성형 AI의 발전은 이미지, 오디오, 비디오 등 다양한 형태의 조작 콘텐츠를 손쉽게 만들어낼 수 있게 하였으며, 이는 개인 명예훼손을 넘어 기업의 브랜드 가치 하락, 금융 시장 교란 등 경제 전반에 걸쳐 예상치 못한 위협을 가하고 있다. 딥페이크로 인한 사회적 비용은 점차 증가하는 추세이다.

유럽연합(EU)은 AI 규제법을 제정하며 딥페이크 등 고위험 AI 기술에 대한 강력한 통제를 시도하고 있으나, 기술의 글로벌 확산 속도와 익명성으로 인해 실질적인 제재에 어려움을 겪고 있다. 한 국제 법률 전문가는 "AI 조작 사진 확산은 사이버 보안과 개인 정보 보호를 넘어 국가 안보의 영역으로 확대 해석될 필요가 있다"며, "국가 간 협력을 통한 국제적 AI 규제 프레임워크 구축이 시급하다"고 강조하였다. 이러한 상황에서 정치인 피싱은 더욱 정교해질 전망이다.

일각에서는 AI 기술의 잠재적 위험성을 과도하게 부각하는 것이 AI 산업의 혁신을 저해할 수 있다는 반론을 제기한다. 이들은 기술 자체의 문제가 아니라 이를 악용하는 주체에 대한 처벌 강화와 함께, 시민들의 미디어 리터러시 교육을 통해 스스로 온라인 허위 정보에 대처할 수 있는 능력을 키우는 것이 더 중요하다고 주장한다. 딥페이크 방지 기술 개발과 윤리적 AI 사용 가이드라인 마련 또한 병행되어야 한다는 목소리가 크다.

향후 AI 조작 사진 확산은 글로벌 언론 보도의 신뢰도에 대한 근본적인 질문을 던지며, 디지털 콘텐츠의 진위 여부를 판별하는 기술적, 제도적 장치 마련의 중요성을 부각할 것이다. 각국 정부는 딥페이크 탐지 기술 개발 지원과 함께 국제 공조를 강화하여 AI 오남용에 대한 강력한 법적, 사회적 제재 방안을 모색해야 한다. 기업들 또한 AI 윤리 강화를 통해 건전한 AI 생태계 조성에 기여해야 할 시점이다.