인공지능(AI) 채팅 플랫폼에서 '젖병 문 아기', '교복 입은 여학생' 등 미성년자를 연상시키는 캐릭터를 활용, 이용자들이 실시간으로 성착취 상황극을 유도하고 AI가 이를 구현하는 충격적인 실태가 드러나면서 규제 당국의 미온적 대처와 법적 공백에 대한 사회적 경고음이 커지고 있다.

2026년 5월 15일, 본지 취재 결과 주요 논란의 중심에 선 A 플랫폼에서는 '작은 체구의 소녀', '12살 소녀', '키 140cm, 몸무게 25kg' 등 초등학생을 연상시키는 구체적인 설정의 캐릭터를 대상으로 한 성적인 대화가 노골적으로 오가고 있었다. 특히 A 플랫폼은 가입 연령 제한이 없어 청소년들마저 무방비로 유해 콘텐츠에 노출될 수 있는 구조다. 이 플랫폼에서는 프로필상 '14세 이상'으로 설정되어 있으나 실제 가입 연령 제한은 없으며, 유료 결제 시 고성능 AI 모델이 적용돼 더욱 정교한 상황극 구현이 가능한 것으로 확인됐다.

논란이 확산되자 A 플랫폼은 지난 5월 12일 미성년자 오인 가능 캐릭터의 비공개 처리를 공지했다. 그러나 공지 이후에도 상당수 미성년자 연상 캐릭터가 여전히 검색 및 대화 가능했으며, 이용자들은 온라인 커뮤니티에서 '농캐' 등 은어를 사용해 단속 회피 방법을 활발히 공유하는 등 실질적인 단속은 미흡한 것으로 드러났다.

비슷한 사례는 A 플랫폼에만 국한되지 않는다. B, C, D, E 등 다른 AI 채팅 플랫폼에서도 '너의 딸', '10세 초등학생', '17세 고등학생' 등으로 설정된 캐릭터가 등장, 유사한 아동 성착취 상황극이 벌어지고 있는 것으로 파악됐다.

[사진=AI 생성]

방송미디어통신심의위원회(방심위)는 지난 5월 13일 A 플랫폼 관련 신고를 접수하고 현재 모니터링을 진행 중이며, 적의 조치할 예정이라고 밝혔다.

그러나 법률 전문가들은 현행법의 한계를 지적하며 근본적인 대책 마련을 촉구하고 나섰다. 허정원 법무법인 대륜 변호사는 연합뉴스와의 통화에서 "아동·청소년으로 명백히 인식될 수 있는 캐릭터를 대상으로 성적 행위를 표현하거나 유도하는 콘텐츠는 처벌 대상이 될 수 있다"면서도, "현행법상 '명백성' 판단 기준이 모호해 적용에 어려움이 있을 수 있다"고 지적했다. 그는 "AI 콘텐츠의 특성을 반영한 명확한 판단 기준 보완이 시급하다"고 덧붙였다.

AI 기술의 발전이 가져온 역기능 중 하나인 이 문제는 규제 당국과 사법 당국의 보다 적극적인 대응을 요구하고 있다. 단순히 플랫폼의 자율 규제에만 의존할 것이 아니라, 법적 공백을 메울 명확한 법률 개정과 실효성 있는 단속 및 처벌 시스템 구축이 절실하다. 또한, 디지털 시대의 청소년을 보호하기 위한 사회 전반의 인식 개선과 교육의 중요성도 함께 강조되어야 할 시점이다.