AI 콘텐츠 홍수 시대…플랫폼 새 고민은 'AI 슬롭'

[지디넷코리아]생성형 인공지능(AI)이 콘텐츠 제작 문턱을 크게 낮추면서 글로벌 플랫폼들이 새로운 과제에 직면했다.

누구나 손쉽게 이미지와 영상, 음성을 만들 수 있게 된 반면, 반복적이고 완성도가 낮은 이른바 ‘AI 슬롭’(AI로 만든 디지털 쓰레기)과 AI 스팸 콘텐츠도 빠르게 늘고 있기 때문이다.22일 관련 업계에 따르면 유튜브와 틱톡 등 글로벌 플랫폼들은 최근 AI 슬롭과 AI 스팸 확산에 대응하기 위해 콘텐츠 관리 정책을 잇달아 손질하고 있다.유튜브는 최근 크리에이터 대상 공식 채널 ‘크리에이터 인사이더’를 통해 ‘비진정성 콘텐츠’ 정책을 구체적으로 설명하고, 저품질·대량 생산 콘텐츠에 대한 수익 창출 기준을 명확히 했다.유튜브는 반복적이고 획일적인 콘텐츠와 이용자의 감정을 과도하게 자극하는 콘텐츠, AI 페르소나를 활용한 콘텐츠 등에 대한 관리 방침을 제시했다.

AI를 제작에 사용했다는 이유만으로 제재하는 것이 아니라, 서사나 창의성이 부족한 콘텐츠를 빠르게 대량 생산하는 이른바 ‘콘텐츠 팜’을 겨냥한 조치다.매트 할프린 유튜브 신뢰·안전 담당 부사장은 "AI는 더 많은 고품질 콘텐츠를 만들도록 돕는 훌륭한 도구"라면서도 "같은 기술이 창의성 없는 영상을 대량 생산하는 콘텐츠 생산 방식에도 활용될 수 있다.

우리가 원하지 않는 것은 그런 콘텐츠"라고 밝혔다.

유튜브는 자극적인 콘텐츠에 대해서도 수익 창출 여부를 엄격하게 판단한다.

동물 구조 영상의 경우 구조 행위보다 동물이 고통받는 장면을 부각하는 데 초점을 맞췄다면 광고 수익 창출이 제한될 수 있다는 설명이다.틱톡도 최근 AI 생성 콘텐츠의 투명성을 높이고 AI 스팸 단속을 강화하는 정책을 내놨다.틱톡은 AI 생성 콘텐츠에 대한 라벨링과 C2PA 기반 콘텐츠 출처 표시를 확대하고, 정치·시사·의료·금융 등 민감한 분야에서 AI를 활용해 스팸성 콘텐츠를 대량 유포하는 계정에 대한 탐지와 조치를 강화하기로 했다.AI 생성 사실이 확인된 콘텐츠에는 자동 라벨을 부착하고, 유해하거나 플랫폼 정책을 위반한 AI 콘텐츠는 삭제하거나 추천 피드에서 제외한다.

이용자가 콘텐츠의 생성 방식을 확인할 수 있도록 AI 리터러시 관련 안내와 교육도 확대하고 있다.플랫폼들이 잇달아 정책을 손질하는 배경에는 AI 콘텐츠의 급증이 있다.기즈모도가 인용한 최근 연구에 따르면 유튜브가 신규 이용자에게 추천하는 영상 가운데 약 20%는 저품질 AI 생성 콘텐츠인 것으로 나타났다.

쇼츠에서는 AI로 제작된 영상의 비중이 최대 절반에 달하는 것으로 조사됐다.다만 플랫폼들도 서비스 내 AI 콘텐츠의 정확한 규모를 모두 파악하기는 쉽지 않은 상황이다.업계 관계자는 “AI를 활용한 콘텐츠가 얼마나 되는지 정확한 비중을 집계하기는 어렵지만, 최근 생성형 AI 활용이 크게 늘면서 AI 기반 콘텐츠도 자연스럽게 증가하고 있다”며 “관련 법과 제도가 마련되기까지 시간이 걸리는 만큼 플랫폼들이 먼저 자체적인 자정 활동에 나서며 정책을 계속 보완하고 있다”고 말했다.이어 “저품질 AI 콘텐츠와 AI 스팸이 많아지면 이용자 경험이 나빠지고 결국 이용자가 플랫폼을 떠날 수 있다”며 “플랫폼들도 AI 활용 자체를 막기보다는 양질의 콘텐츠가 더 많이 유통되도록 관리 기준을 지속적으로 고도화할 것으로 보인다”고 설명했다. ...