플랫폼이 AI 슬롭을 막을 수 있을까 — 8개 앱이 동시에 브레이크를 걸었다

AI가 생성한 콘텐츠가 사람이 만든 게시물을 빠르게 밀어내면서, 거의 모든 소셜 앱이 AI 슬롭 제한을 검토하고 있다. 이용자 사이의 의미 있는 연결을 유지하기 위해서다.

지금까지의 조치

• 핀터레스트: 피드에서 AI 생성 콘텐츠 양을 제한하는 옵션 추가
• 유튜브: 다른 크리에이터 콘텐츠를 AI로 베낀 영상의 수익화 제한
• 틱톡: 콘텐츠 라벨링과 이용자 교육 프로그램 확대
• 레딧: AI 생성 스팸 단속 강화
• X: AI 생성 딥페이크의 수익화 제한 조치 시행
• 스냅챗: 스포트라이트에서 전면 AI 생성 영상 추천 중단
• 링크드인: AI 슬롭 댓글 신고 기능 제공
• 인스타그램: 자신의 콘텐츠에 대한 AI 리믹스 거부 옵션 추가, @멘션으로 타인의 AI 이미지를 생성하던 기능 삭제

플랫폼이 오판한 것

종합하면 소셜 플랫폼들이 AI 기능에 대한 오디언스의 열의를 과대평가했다는 점이 분명해 보인다. 다음 단계로 AI 생성 콘텐츠를 전면 금지하는 플랫폼이 나오는 것도 이제 불가피해 보인다. 실제로 매셔블은 한때 모두의 최애 플랫폼이었던 마이스페이스가 바로 그 전제로 재출시를 검토 중이라고 보도했다. AI로 넘쳐나는 피드에 대한 해독제라는 포지션이다.

반발은 이해할 만하다. 소셜 미디어는 이름에서든 작동 방식에서든 인간의 사회적 상호작용을 토대로 만들어졌다. AI 챗봇의 부상이 그 정의를 다소 바꿔 놓았을지 모르지만, 개념적으로 소셜 앱은 사람들이 연결되고 인간의 창의성을 기념하는 수단이었다. 그 콘텐츠의 대다수가 봇에서 나온다면 무엇이 남는가.

봇은 여전히 봇이다

통계적으로 대다수 소셜 미디어 이용자는 봇의 존재를 싫어하고 봇 활동량을 한탄해 왔다. 플랫폼들은 수십 년간 조작·스팸·가짜 상호작용에 대한 불만 속에서 각종 비진정성 인게이지먼트와 싸워 왔다. 일론 머스크의 트위터 인수 논리 중 하나도 "스팸 봇을 물리치거나 죽거나"였고, 이는 앱 내 비진정 활동 증가에 대한 커뮤니티의 우려를 반영한 것이었다.

그런데 최신 AI 도구와 시스템이 등장하자 봇이 긍정적인 것으로 재포장되고, 플랫폼들은 자사 시스템이 얼마나 똑똑하고 인간처럼 됐는지를 자랑하고 있다. 하지만 봇은 여전히 봇이고, 이는 여전히 비진정성 인게이지먼트다. 창작 보조나 시각 생성을 통한 창의성 확장이라는 이름으로 포장됐을 뿐, 사람들이 수년간 반대해 온 그 쓰레기와 같다.

가장 놀라운 대목은 플랫폼들 스스로가 사람들이 봇을 더 원한다고, AI로 결과물을 강화하거나 변형할 수단을 더 주는 것이 긍정적이라고 믿는 듯 보인다는 점이다. 소셜 미디어의 성격이 사회적 교류에서 엔터테인먼트 쪽으로 옮겨갔더라도, 사람들은 여전히 인간의 창의성을 보고 싶어 하고 인간적 연결과 경험의 순간에 공감하고 싶어 한다.

마케터에게 남는 것

이 반발은 AI 개발 전반의 열기에 흠집을 낼 가능성이 있고, 도구 채택 속도에도 영향을 줄 수 있다. 브랜드 콘텐츠 관점에서 실무적 함의는 두 가지다.

첫째, 생성형 도구로 만든 소재는 플랫폼 정책 리스크를 함께 안는다. 추천 제외(스냅챗), 수익화 제한(유튜브·X), 라벨링(틱톡)은 이미 시행 중이고 범위는 넓어지는 방향이다. 제작 파이프라인에 어떤 소재가 AI 생성인지 기록해 두지 않으면 나중에 대응이 어렵다.

둘째, 사람이 만든 콘텐츠의 상대 가치가 올라간다. 실제 현장 촬영, 직원·고객의 얼굴, 손으로 만든 과정 기록처럼 복제 비용이 높은 소재가 차별화 자산이 된다. 플랫폼별 대응은 스냅챗이 AI 슬롭을 추천에서 뺀다 — 스포트라이트는 사람이 만든 것만과 링크드인이 'AI 슬롭' 신고를 받는다 — '포스트 개선' 기능은 없앤다에서 확인할 수 있다.