왓츠앱에 온디바이스 사기 탐지가 들어온다 — 메시지가 기기 밖으로 안 나간다

메타가 왓츠앱용 스캠 얼럿(Scam Alert) 시스템 프리뷰를 공개했다. 사기 메시지와 연락처를 사용자에게 경고하되, 프라이버시를 침해하지 않는 방식으로 설계했다는 설명이다.

어떻게 작동하나

핵심은 온디바이스 머신러닝 모델이다. 스캠 얼럿은 선택 기능이며, 처리를 위해 메타 서버로 데이터를 보내지 않는다.

메타의 설명은 이렇다. "분류를 위해 메시지 내용이 기기를 떠나지 않으며, 왓츠앱·메타 또는 누구에게도 자동 신고되지 않는다. 이 기능은 종단간 암호화를 보완하면서, 모델이 사기 가능성이 높다고 판단할 때 사용자가 제어하는 선택적 경고를 제공한다."

동작 순서는 이렇다.

1. 사용자가 기능을 켜면 머신러닝 모델이 기기에 다운로드된다.
2. 연락처에 없는 발신자의 수신 메시지를 스캔해 알려진 사기 패턴과 대조한다.
3. 모델은 사용자 신고로 수집된 사기 대화 패턴으로 학습됐으며, 대화 구조와 언어적 신호를 기반으로 확률적 분류를 수행한다.
4. 사기 가능성이 높다고 판단되면 채팅 안에 경고가 표시된다. 이 경고는 해당 사용자에게만 보인다.
5. 사용자는 차단, 신고, 대화 계속 중에서 선택한다. 잘못된 경고라고 판단하면 채팅을 신뢰 대화로 표시할 수 있고, 이후 같은 채팅에는 경고가 뜨지 않는다.

메타로 가는 데이터는 무엇인가

메타가 받는 것은 경고 발생 빈도와 정확도 관련 데이터뿐이다. 사용자가 이후 메시지를 차단했는지 허용했는지를 기반으로 산출된다. 사용자는 자발적으로 사기 의심 대화의 일부 메시지를 공유해 탐지 모델 개선에 기여할 수도 있다.

설계에서 읽을 것

이 기능이 흥미로운 이유는 제약 조건이 먼저 정해진 상태에서 만들어졌다는 점이다. 왓츠앱은 종단간 암호화를 핵심 정체성으로 삼아 왔다. 서버에서 메시지를 읽어 사기를 걸러내는 일반적인 접근은 애초에 선택지가 아니었다.

온디바이스 모델은 그 제약 안에서 나온 답이다. 대가도 있다. 기기에서 돌아가는 모델은 서버 모델보다 작고, 업데이트 주기가 느리며, 새로운 사기 수법 반영에 시간이 걸린다. 메타가 현재 베타 단계이며 더 넓은 배포 전에 반복 개선을 계속하겠다고 밝힌 이유이기도 하다.

브랜드 계정 운영자가 볼 지점

왓츠앱을 고객 커뮤니케이션 채널로 쓰는 브랜드라면 무시할 변화가 아니다.

• 연락처에 없는 발신자가 스캔 대상이다. 브랜드가 먼저 보내는 아웃바운드 메시지는 대부분 이 범주에 들어간다.
• 사기 대화의 구조와 언어 패턴이 판별 기준이다. 긴급성 강조, 링크 유도, 즉시 응답 요구 같은 화법은 마케팅 메시지와 사기 메시지가 형태적으로 닮는 지점이다.
• 경고가 뜨면 브랜드에는 보이지 않는다. 경고는 사용자에게만 표시되므로, 응답률 하락으로만 간접 확인된다.

메시지 카피에서 긴급성·압박 표현을 줄이는 것은 이제 브랜드 톤의 문제가 아니라 도달의 문제가 될 수 있다.