호주가 알고리즘 옵트아웃 법제화를 검토한다 — "소년 계정 개설 23분 만에 여성혐오 콘텐츠"

호주 정부가 소셜미디어 플랫폼에 알고리즘 옵트아웃을 강제하는 방안을 검토하고 있다. 소셜 앱의 콘텐츠 매칭이 부추기는 양극화를 다루기 위해서다. 알고리즘 규제가 청소년 접속 금지보다 더 큰 영향을 줄 수 있다는 판단이 배경에 있다.

이 움직임은 호주가 몇 달에 걸쳐 청소년 소셜미디어 금지를 추진한 뒤에 나왔다. 그 금지는 지금까지 소셜미디어 이용과 연결된 부정적 행동에 거의 영향을 주지 못했다.

"23분"

가디언 보도에 따르면 호주 사회복지부 장관 타냐 플리버섹(Tanya Plibersek)은 최근 10대 교살 사망 사건과 10대 사이 성폭력 신고 증가를 계기로 정부가 알고리즘 옵트아웃 도입을 검토 중이라고 밝혔다.

"오늘 호주에서 어린 남자아이로 소셜미디어 계정을 만들면, 여성혐오적이고 폭력적인 여성혐오 콘텐츠가 공급되기까지 평균 23분이 걸립니다. 그건 소셜미디어 기업들의 의도적인 결정이고, 우리 남자아이들을 망가뜨리고 건강한 관계가 어떤 것인지에 대해 완전히 잘못된 생각을 심어주고 있습니다."

플리버섹은 ABC 인사이더스 프로그램에서 정부가 알고리즘 증폭 문제를 다루기 위해 여러 선택지를 검토 중이며, 여기에는 옵트인 방식과 옵트아웃 방식이 모두 포함된다고 말했다.

연구가 말하는 것

알고리즘의 부정적 영향은 학술 연구에서 폭넓게 다뤄져 왔다.

• 2016년 하버드 비즈니스 리뷰에 실린 연구는 분노와 공포 같은 '높은 각성 감정'이 특히 바이럴 공유 측면에서 가장 큰 소셜미디어 반응을 이끌어낸다고 밝혔다.
• 2023년 미국 국립의학도서관이 게재한 연구는 뉴스 헤드라인에 부정적 단어가 있으면 소셜미디어 이용자의 소비율이 높아진다는 것을 확인했다.
• 2021년 사이언스다이렉트가 게재한 인스타그램 참여 연구는 부정적 감정을 유발하는 게시물이 긍정적 감정 대비 최대 70% 더 많은 좋아요를 받았다고 밝혔다.
• 2023년 테일러앤프랜시스 온라인에 게재된 한국과학기술원 분석은 분노를 표현한 게시물이 불안을 표현한 게시물보다 더 많은 사람에게 도달했으며, 분노한 이용자가 감정적 게시물을 공유할 의향이 더 높았다고 밝혔다.
• 2012년 와튼 경영대학원 연구는 분노를 유발하는 콘텐츠가 더 많이 공유될 가능성이 높고, 게시물이 불러일으킨 분노의 양이 그 확산성에 비례한다고 밝혔다.

불안과 공포가 알고리즘 증폭을 이끄는 이유는 이 시스템들이 게시물 참여의 이진 계산에 기반하기 때문이다. 좋아요와 댓글이 많으면 실제 콘텐츠와 무관하게 알고리즘 판단에 반영되고, 그 결과 이런 게시물이 더 넓게 노출된다.

퓨리서치에 따르면 대다수가 뉴스와 정보를 소셜미디어에 의존한다는 점까지 더하면 위험한 조합이 된다.

문제는 집행이다

과제는 제한을 실제로 입법하고 플랫폼이 알고리즘 선택지를 제공하도록 강제하는 데 있다.

예를 들어 메타는 이용자 참여를 끌어올리는 데 알고리즘 매칭의 가치를 반복해서 강조해 왔고, 이는 사람들에게 광고를 보여주는 사업 모델과 직결된다. 따라서 알고리즘에 대한 어떤 제한도 사업 프로세스에 영향을 주며, 무역 제한을 둘러싼 더 큰 충돌로 이어질 수 있다.

다만 호주가 상대적으로 작은 시장이라는 점이 오히려 알고리즘 옵트아웃의 이상적인 시험장이 될 수 있다. 메타와 규제 당국이 이용자를 팔로우한 페이지의 순수 시간순 피드로 전환했을 때의 영향을 측정할 수 있기 때문이다.

메타는 이미 EU에서 이를 실험했다. 이용자가 월 구독료를 내면 알고리즘 매칭에서 빠질 수 있게 한 것이다. 다만 돈을 내겠다고 선택한 사람이 거의 없어 소규모 시험 사례에 그쳤다.

진짜 시험은 호주 정부가 알고리즘 증폭을 옵트인으로 만들 수 있는지 여부다. 모든 이용자가 기본적으로 추천 게시물의 끝없는 피드에서 차단되도록 하는 것이다.

마케터가 볼 지점

알고리즘 도달이 기본값이 아니게 되면, 유료 매체와 팔로워 자산의 상대 가치가 다시 계산된다. 추천 피드로 확산되던 콘텐츠가 팔로우 기반으로 좁혀지면 오디언스를 실제로 소유하는 채널의 값이 오른다.

호주가 시험장이 되는 이유도 여기 있다. 규모가 작아 실험 비용이 낮고, 결과는 다른 시장의 규제 논의로 그대로 옮겨간다. 청소년 하루 2시간 제한을 받아들인 메타의 합의와 핀터레스트가 "우리 앱을 덜 쓰라"고 말하는 포지셔닝을 함께 놓으면, 플랫폼들이 규제를 앞질러 자기 서사를 만드는 국면이 보인다.