생성형 인공지능(AI)의 보편화로 누구나 클릭 몇 번에 영상, 글, 심지어 애플리케이션까지 제작할 수 있는 시대가 열렸다. 그러나 이러한 기술적 편의성의 그늘에서 저품질 AI 생성물이 온라인 생태계를 뒤덮는 ‘AI 슬롭(AI Slop)’ 현상이 심각한 사회적 리스크로 부상했다.

▲ 프롬프트 몇 줄로 대량 생산되는 ‘AI 찌꺼기’

‘AI 슬롭’은 생성형 AI가 무분별하게 찍어낸 질 낮은 온라인 콘텐츠를 의미한다. 가축에게 주는 찌꺼기 사료를 뜻하는 ‘슬롭(Slop)’에서 유래한 이 용어는 취재나 검증, 인간의 창의적 개입 없이 프롬프트 입력만으로 만들어진 결과물을 가리킨다.

글과 이미지, 영상은 물론 논문과 앱에 이르기까지 형태를 가리지 않고 확산하고 있다. 초기에는 소셜 미디어상의 은어로 사용되었으나, 현재는 저품질 AI 생성물의 범람 현상 자체를 지칭하는 학술·산업적 용어로 자리 잡았다.

▲ 영상·학술·IT 플랫폼 전반으로 저품질 콘텐츠 확산

유튜브와 틱톡 등 주요 영상 플랫폼에서는 자막과 효과음을 무한 반복하는 ‘브레인롯(Brainrot)’ 영상이나 AI 합성 기반의 가짜 정보형 영상이 대량 유통되고 있다.

최근 조사에 따르면 틱톡 신규 이용자 추천 영상의 약 60%, 유튜브의 약 20%가 AI 슬롭으로 분류됐다. 한국의 경우 지난해 10월 기준 AI 슬롭 유튜브 채널 누적 조회수가 세계 1위를 기록하기도 했다.

학술 및 IT 업계의 오염도 심각한 수준이다. 논문 작성 AI 에이전트의 등장으로 어설픈 AI 작성 논문이 급증하면서 주요 학회의 검증 시스템이 한계에 다다랐다.

세계적으로 권위 있는 AI 학회조차 AI가 임의로 조작한 가짜 논문을 인용한 게재작을 거르지 못해 논란이 됐다. 자연어로 코드를 짜는 ‘바이브 코딩’의 보편화 역시 기존 앱을 단순 복제한 저품질 앱의 범람으로 이어졌다.

[AI 생성 이미지]

▲ ‘슬롭 루프’ 악순환과 규제의 허점

AI 슬롭이 급증하는 배경에는 구조적인 악순환이 자리 잡고 있다. AI 슬롭이 높은 조회수와 수익을 올리면 유사한 프롬프트가 퍼지면서 저품질 콘텐츠가 기하급수적으로 쌓인다. 이 쓰레기 데이터가 다시 AI 모델의 학습 데이터로 재활용되면서 AI가 점점 더 잘못된 정보를 출력하는 ‘슬롭 루프(Slop Loop)’ 현상이 강화됐다.

법적 규제 역시 한계를 드러냈다. AI 기본법 시행으로 AI 생성물 표기 의무화가 추진되었으나, 규제 대상이 사업자에 국한되어 이용자가 워터마크를 제거하거나 재가공하는 행위를 막기 어렵다. 소셜 미디어상에서 'AI 워터마크 제거법'이 공유되는 등 유통 과정에서의 진위 확인은 더욱 난항을 겪었다.

▲ 수익 창출 차단과 검증 솔루션 도입

AI 슬롭으로 인한 생태계 파괴를 막기 위해 플랫폼과 기업, 개인이 각기 다른 대응책을 마련하기 시작했다. 유튜브는 기계적으로 대량 생산된 영상이나 실존 인물 AI 아바타가 민망한 조언을 제공하는 채널을 광고 수익 대상에서 전면 제외하는 등 수익 창출 제재를 강화했다. 틱톡 역시 AI 스팸 단속 정책을 엄화했다.

기업들은 AI의 답변을 재검증하는 ‘AI 검증 솔루션’ 도입에 집중했다. 구글과 마이크로소프트 등 빅테크 기업들은 기업용 AI 서비스에 악의적 유도 질문이나 혐오 콘텐츠를 차단하는 검증 기능을 탑재했다.

30일(현지 시각) HNGN에 따르면 비즈니스 소셜미디어 플랫폼 링크드인(LinkedIn)이 인공지능(AI)으로 작성된 저품질 게시물을 이용자가 직접 신고할 수 있는 기능을 도입했다.

AI 생성 콘텐츠가 플랫폼을 빠르게 잠식하는 가운데 단순한 AI 표시(Label) 정책을 넘어 이용자가 콘텐츠 관리에 직접 참여하는 방식으로 운영 정책을 강화한 것이다.

하리 스리니바산(Hari Srinivasan) 링크드인 최고제품책임자(CPO)는 이번 기능이 회사의 최우선 과제 가운데 하나라고 밝혔다.

그는 이용자가 신고한 게시물은 기존의 '관심 없음(Not Interested)' 표시와 동일하게 추천 알고리즘에서 노출 빈도가 낮아질 것이라고 설명했다.

또 이용자들의 신고 데이터는 링크드인의 AI 탐지 모델 학습에도 활용되며, 현재도 매일 수백만 건의 저품질 AI 게시물을 자동 차단하고 있다고 덧붙였다.

전문가들은 플랫폼의 관리 강화와 제도 개선, 기업의 검증 시스템 구축, 이용자의 정보 선별 능력이 함께 갖춰질 때 AI 슬롭 문제도 점차 완화될 수 있을 것으로 분석했다.