인스타그램이 'AI 크리에이터'를 'AI 생성 프로필'로 바꾼다 — 미표기 계정은 도달 제한

인스타그램이 계정에 대한 AI 투명성 라벨을 개편한다. 이용자가 사람이 아닌 존재와 상호작용할 때 그것을 알 수 있게 하려는 조치다. AI 콘텐츠 표기를 둘러싼 기대치가 바뀌고 있다는 신호다.

라벨 이름이 바뀐다

혼란을 줄이기 위해 인스타그램은 5월에 추가한 'AI 크리에이터(AI creator)' 계정 라벨을 'AI 생성 프로필(AI generated profile)' 라벨로 이름을 바꾼다. 여기에 해당 계정이 게시하는 이미지가 AI로 생성된 인물을 담고 있을 수 있다는 설명도 함께 붙는다. 프로필이 사람이 운영하는 것인지, 아니면 AI 생성 콘텐츠만 올리는 것인지 구분하기 쉬워진다.

인스타그램의 설명은 이렇다. "생성형 AI가 사람들이 창작하는 방식의 더 큰 부분이 되면서, 사람처럼 보이는 프로필을 봤다가 나중에 등장인물이 AI로 생성된 것임을 알게 되는 걸 사람들이 좋아하지 않는다는 이야기를 들었습니다. 사람들은 프로필에 AI 생성 인물이 등장하는지 알고 싶어 합니다."

표기하지 않으면 도달을 줄인다

인스타그램은 AI로 생성된 인물을 담고 있으면서 이 라벨을 붙이지 않은 프로필의 도달을 제한하겠다고 밝혔다. 표기가 권고가 아니라 노출과 연결된 규칙이 된다는 뜻이다.

AI 봇에 대한 반발이 정책을 되돌렸다

이번 업데이트는 AI 생성 콘텐츠와 AI 봇의 침투에 대한 반발이 커지는 흐름을 반영한다. 소셜미디어의 핵심 특성이 '소셜'이라는 점을 생각하면 예견된 문제이기도 하다. 소셜 플랫폼은 사람들이 다른 실제 사람과 생각과 아이디어를 나누도록 만들어졌지, 기계의 최신 산출물을 감상하는 곳으로 설계되지 않았다.

어떤 면에서 AI 도구는 '소셜'의 개념 자체를 다시 정의하고 있다. 더 많은 사람이 AI 봇과 사귀고 있기 때문이다. 하지만 적어도 소셜미디어 플랫폼에서는 AI 봇의 유입에 대한 상당한 반발이 있었다.

메타가 이 전선에서 한 발 물러서야 했다는 사실은 회사의 더 큰 AI 추진에도 타격일 수 있다. 2024년 말, 메타가 자사 앱에 사람이 운영하는 계정처럼 상호작용하는 AI 봇 페르소나들을 대거 풀 계획이라는 보도가 나왔다. 사람들이 게시물에 답글과 좋아요를 더 많이 받아 자신이 더 보이고 들린다고 느끼게 만들어, 앱 내 인간 활동을 늘리려는 구상이었다.

메타는 이 계획에 대한 추가 정보를 공유하지 않았고, 다른 앱에서의 AI 콘텐츠와 프로필에 대한 광범위한 비판 속에서 실제로 진행하지는 않은 것으로 보인다.

브랜드가 볼 지점

AI 생성 인물을 쓰는 브랜드 콘텐츠라면 표기가 노출과 직결된다는 점을 계정 운영 기준에 넣어야 한다. 라벨을 붙이지 않는 선택은 이제 도달 손실과 교환된다.

더 근본적으로는 AI 생성 콘텐츠가 신뢰의 문제로 다뤄지기 시작했다는 점이 중요하다. AI 워터마크가 두렵다면 문제는 워터마크가 아니라 콘텐츠라는 논지와 같은 맥락이고, 링크드인이 AI 슬롭 단속을 46% 늘린 것과도 같은 방향이다. 사람이 만든 것과 기계가 만든 것을 구분하는 표시가 플랫폼 전반에서 규칙이 되고 있다.