인스타그램에 게시된 인공지능(AI) 생성 추정 야구 영상이 사흘 만에 811만 회가 넘는 조회수를 기록하며 사회적 혼란을 야기하고 있다. 영상 속 야구 기록의 명백한 오류에도 불구하고 많은 이용자가 AI임을 인지하지 못하며, 디지털 콘텐츠의 신뢰성 문제가 심각한 수준에 달했다. 전문가들은 플랫폼 사업자의 책임 강화와 의무적 워터마킹제 도입을 촉구하는 목소리를 높인다.

인스타그램에 게시된 AI 생성 추정 야구 영상이 사흘 만에 811만 회가 넘는 조회수를 기록하며 사회적 혼란을 야기하고 있다. 지난 1일 올라온 이 5초짜리 영상은 4일 현재 2만5천여 개의 '하트'를 받으며 빠르게 확산하며, 인공지능 기술의 발전이 초래하는 정보 혼란의 단면을 극명하게 보여준다. 영상은 야구 관중석의 한 여성을 비추며 "와, 게임에 집중할 수가 없네요!"라는 영어 음성이 흐르는 방식으로 제작되었다.

해당 영상은 프로야구 중계 화면과 유사한 형식을 띠지만, 야구팬들 사이에서는 여러 오류가 지적되며 AI 생성 의혹이 증폭되었다. 화면 왼쪽 상단 점수표에 표기된 투수 김서현 선수(2023년 한화 이글스 입단)와 타자 조인성 선수(1998년 LG 트윈스 입단, 2017년 은퇴)는 같은 시대에 뛴 적이 없는 인물들이기 때문이다. 또한 "최강은 두산"이라는 응원 슬로건 역시 야구팬들에게는 낯선 문구로, 영상의 조작 가능성을 뒷받침한다.

애초 이 영상을 게시한 이용자 'y*'의 계정이 그동안 AI 생성 영상으로 추정되는 게시물만을 꾸준히 올려왔다는 점도 지적된다. 누리꾼들은 "계정 영상 봐봐라 다 AI임", "계정 자체가 AI인데 구분 안 됨?" 등 댓글을 통해 해당 계정의 성격을 명확히 인지하고 있었다. 이러한 정황은 AI 콘텐츠 유포의 의도성을 시사하며, 정보의 투명성 확보에 대한 근본적인 질문을 던진다.

그러나 야구에 대한 지식이 부족한 일반 이용자들은 영상 속 오류를 쉽게 감지하지 못하고, 오직 여성의 모습에만 집중하며 영상의 확산을 부추겼다. "와 진짜 예쁘다", "홍보 BJ겠지 관심 끌려고"와 같은 반응은 AI 콘텐츠가 현실과 혼동될 때 발생하는 위험성을 단적으로 보여준다. 일부 누리꾼은 "댓글 보기 전까지 AI인지 몰랐음", "사람만 보면 구분 아무도 못 한다는 게 소름"이라며 AI 기술의 현 수준에 대한 경악을 표했다.

이처럼 AI가 생성한 가짜 영상이 사회적 논란을 일으킨 사례는 이번이 처음이 아니다. 지난달 대전 동물원에서 늑대 '늑구'가 탈출했을 당시, AI로 조작된 가짜 목격 사진이 SNS에 유포되어 당국의 재난 문자 송출과 수색에 혼란을 주었다. 대전경찰청 사이버수사대는 AI를 활용해 조작된 사진을 생성·유포하여 공무집행을 방해한 혐의로 40대 A씨를 검거하며, 이러한 행위에 대한 법적 제재가 현실화됨을 보여주었다.

우리나라는 지난 1월부터 생성형 AI 결과물에 워터마크를 표시해야 하는 'AI 기본법'을 시행하고 있지만, 현행법의 한계는 명확하다. 이 법은 AI 모델을 개발하고 이를 활용한 서비스를 직접 제공하는 기업과 사업자를 대상으로 하며, AI 서비스를 단순히 업무나 창작 도구로 사용하는 일반 이용자에게는 규제 대상이 아니다. 이로 인해 SNS를 통한 AI 콘텐츠의 무분별한 확산에 대한 실질적인 제재가 어려운 실정이다.

이광석 서울과기대 IT정책전문대학원 교수는 "SNS에 올라오는 AI 콘텐츠에 대한 가이드라인도 필요하고, 공익을 크게 훼손한다면 법적 제재도 해야 한다"고 강조했다. 그는 "플랫폼사업자가 AI 생성 데이터의 맥락이나 확산을 결정하는 매개 권력을 쥐고 있다는 점에서 공익 훼손이나 오정보 사안들에 실질적 책임을 지우고 플랫폼 업체에 대한 처벌 범위를 확대해야 한다"고 지적했다. 또한 "SNS 업로드 시점에 AI 생성물임을 나타내는 '디지털 표식'을 강제하는 의무적 워터마킹제가 도입돼야 한다"고 제안하며, 이는 AI 생성물 오남용을 막을 수 있는 안전장치 역할을 수행할 것이라고 덧붙였다.

일각에서는 인공지능 기술의 발전이 불가피하며, 새로운 창작 도구로서의 긍정적 활용 가능성도 공존한다는 시각도 존재한다. 그러나 이러한 기술이 초래할 수 있는 사회적 부작용에 대한 명확한 기준과 대응 체계 마련이 시급하다는 지적이 제기된다. AI 기술의 급속한 발전 속도에 비해 관련 법규와 사회적 합의가 뒤처지는 상황은 건전한 디지털 생태계 조성을 위한 과제를 안겨준다.

정부는 AI 콘텐츠의 무분별한 확산으로 인한 사회적 혼란을 방지하고, 이용자들의 정보 판단 능력을 제고하기 위한 제도적 장치 마련에 더욱 속도를 내야 한다. 특히 플랫폼 사업자의 자율 규제와 더불어 법적 강제성을 띤 디지털 표식 도입은 투명하고 신뢰할 수 있는 정보 환경을 구축하는 데 필수적인 요소로 작용할 것이다. AI 시대의 윤리적 기준과 법치주의 확립은 사회 질서 유지의 핵심 과제로 부상한다.