샤오홍슈, AI 생성 가짜 리뷰 12만 건 삭제…플랫폼 신뢰도 지키기

AI 기술 덕분에 누구나 그럴듯한 콘텐츠를 만들 수 있게 됐지만, 그만큼 '가짜 경험'을 만들어 내는 일도 쉬워졌습니다. 중국 대표 라이프스타일 플랫폼 샤오홍슈(小红书)가 바로 이 문제에 칼을 빼들었습니다. 최근 3개월간 AI로 생성된 허위 체험 후기 약 12만 건을 삭제했다고 밝혔는데요. 단순한 정리 차원을 넘어, 플랫폼의 신뢰성과 사용자 보호를 위한 장기적인 전략으로 풀이됩니다.

핵심 내용

• 샤오홍슈의 AI 가짜 리뷰 대응: 샤오홍슈가 2026년 6월부터 8월까지 AI로 생성된 허위 체험 노트(맛집, 숙박, 의료, 뷰티 등) 약 12만 건을 발견해 삭제했습니다. 이는 플랫폼의 AI 콘텐츠 관리가 단순한 기술적 조치를 넘어, 사용자 신뢰를 지키기 위한 중요한 움직임입니다.

• 주요 유형 3가지: 플랫폼이 집중적으로 단속한 사례는 크게 셋으로 나뉩니다. 첫째, AI로 만든 가짜 이미지로 실제 장면을 위장하는 경우, 둘째, AI를 이용해 대량으로 비슷한 체험 글을 생성하는 경우, 셋째, 직접 겪지 않은 일을 마치 자신의 경험인 것처럼 꾸며내는 '가짜 친숙함' 전략입니다.

• 우선 관리 분야: 여행·숙박, 의료·성형, 교육, 부동산 등 소비자 결정에 큰 영향을 미치는 분야를 최우선으로 관리하고 있습니다. 특히 성형이나 의료 후기는 사용자의 건강과 직결되기 때문에 더욱 엄격한 기준이 적용됩니다.

• 과거 콘텐츠 소탕: 이미 올라온 과거의 AI 생성 콘텐츠도 전수 조사해 삭제하고 있습니다. 게시물뿐만 아니라 댓글, 계정 단위까지 확장해 뿌리 뽑기에 나섰습니다.

• 신규 콘텐츠 차단: 앞으로 새로 올라오는 AI 콘텐츠를 막기 위해 AI 표시 여부를 확인하는 기술을 강화하고, 동일한 이미지나 영상이 여러 계정에서 반복적으로 사용되는 패턴을 감지하는 시스템을 도입했습니다.

• 규정 위반 시 제재: 실제로 AI로 만든 가짜 성형 후기를 올린 계정은 영구 정지, 가짜 숙박 후기를 올린 계정은 일시 정지 처분을 받았습니다. 이는 AI 콘텐츠에 대한 플랫폼의 강력한 의지를 보여줍니다.

AI 콘텐츠 표시 의무화: 샤오홍슈는 AI를 활용한 창작을 무조건 금지하는 대신, AI가 생성한 콘텐츠에는 반드시 'AI 생성' 표시를 하도록 권장하고 있습니다. 투명한 공개를 통해 사용자 스스로 정보를 판단할 수 있게 하려는 취지입니다.

심층 분석

샤오홍슈의 이번 조치는 단순한 정화 작업이 아니라, 플랫폼의 정체성과 직결된 문제입니다. 샤오홍슈는 '진짜 경험 공유'라는 슬로건 아래 성장해 왔습니다. 사용자들은 샤오홍슈의 후기가 '실제로 가본 사람'의 이야기라고 믿기 때문에 맛집, 여행지, 병원 등을 선택합니다. 그런데 AI가 등장하면서 이 '진정성'의 기반이 흔들리기 시작했습니다. 가짜 후기가 늘어나면 사용자들은 더 이상 샤오홍슈의 정보를 신뢰하지 않게 되고, 결국 플랫폼의 핵심 가치가 무너지는 셈입니다.

이번 조치는 중국 정부의 AI 콘텐츠 규제 기조와 맞물려 있습니다. 중국은 2025년부터 AI 생성 콘텐츠에 대한 표시 의무화를 시행하는 등 AI의 부작용을 막기 위한 법적 장치를 마련해 왔습니다. 샤오홍슈의 이번 대응은 이러한 규제에 선제적으로 대응하는 동시에, 자율 규제를 통해 정부의 신뢰를 얻으려는 전략으로 해석됩니다.

앞으로 AI 기술은 더욱 정교해질 것이고, 이를 탐지하는 기술도 함께 발전할 것입니다. 샤오홍슈는 단순히 AI 콘텐츠를 삭제하는 것을 넘어, AI를 창작 도구로 적극 활용하는 크리에이터를 지원하는 방향으로 나아가야 합니다. AI가 만든 콘텐츠도 '진짜 가치'가 있다면 사용자에게 도움이 될 수 있기 때문입니다. 중요한 것은 '진실성'의 기준을 어떻게 세우고, 이를 투명하게 공개하느냐입니다. 샤오홍슈가 앞으로도 AI와 공존하는 새로운 콘텐츠 생태계를 만들어 갈 수 있을지 주목됩니다.

자주 묻는 질문

Q1. AI로 만든 후기를 올리면 무조건 삭제되나요? 아닙니다. AI로 생성한 콘텐츠라도 실제 경험을 바탕으로 하고, 'AI 생성' 표시를 하면 게시가 허용됩니다. 문제는 실제로 가보지도 않고 AI로만 만든 가짜 경험을 진짜인 것처럼 속이는 경우입니다.

Q2. 가짜 후기를 발견하면 어떻게 신고하나요? 게시물 오른쪽 위에 있는 '신고' 버튼을 누르면 됩니다. 신고 사유에 'AI 생성 의심'을 선택하면 플랫폼이 검토 후 조치를 취합니다.

참고 URL: https://mp.weixin.qq.com/s/Q_zvfcLuVcyn-yY37VphPg