Борьба Xiaohongshu с ИИ-фейками: 120 000 постов удалено

Китайская платформа Xiaohongshu (RED), известная как «трава для травы» и главный источник потребительских рекомендаций, объявила о масштабной зачистке контента, созданного искусственным интеллектом. За три месяца — с июня по август — было удалено почти 120 000 фальшивых заметок, имитирующих реальный опыт пользователей. Это не просто технический сбой, а ответ на растущую проблему: ИИ позволяет каждому создавать качественный контент, но также легко фабриковать несуществующие события, вводя в заблуждение миллионы пользователей.

Основные меры борьбы с ИИ-фейками

• Фокус на высокорисковых сценариях: Платформа выделила три ключевых типа нарушений: изображения, сгенерированные ИИ и выдаваемые за реальные фотографии; массовое создание однотипных «опытных» заметок; выдуманные личные истории. Приоритет отдан сферам туризма, медицины и косметологии, образования и недвижимости.

• Очистка исторического контента: Удаление касается не только новых публикаций, но и старых. Модерация проверяет заметки, комментарии и аккаунты, вычищая ранее размещённые фейки.

• Усиление контроля за новыми публикациями: Внедрены дополнительные алгоритмы для выявления немаркированного ИИ-контента. Особое внимание уделяется повторному использованию одних и тех же изображений или видео в разных аккаунтах и регионах — это типичный признак массовой генерации.

• Примеры наказаний: В официальном отчёте приведены кейсы: пользователь «泥吧» публиковал ИИ-сгенерированные посты о косметических процедурах — аккаунт заблокирован; «吹风» создал фейковые фотографии и тексты о проживании в отеле — получил ограничение на публикации; «心*阁» выдумал семейную историю и опыт в образовании, чтобы продавать учебные материалы — аккаунт удалён.

• Поощрение маркировки: Xiaohongshu не запрещает ИИ-инструменты, но требует от авторов использовать специальную функцию «AI-контент» при публикации. Это помогает сохранить доверие аудитории и избежать санкций.

Глубокий анализ: почему это важно для рынка и пользователей

Решение Xiaohongshu — не изолированный случай, а часть общемирового тренда. С развитием генеративных моделей (Midjourney, ChatGPT и др.) создание убедительных фейков стало доступным каждому. Для платформ, основанных на пользовательском доверии, это экзистенциальная угроза: если пользователи перестанут верить отзывам, рухнет вся модель «социальной коммерции». Xiaohongshu, которая позиционирует себя как «сообщество реального опыта», вынуждена действовать жёстко, чтобы сохранить свою нишу.

Важно отметить, что платформа не отвергает ИИ как таковой. Вместо этого она внедряет гибридный подход: разрешает использование ИИ для творчества, но требует прозрачности. Это разумный компромисс, который позволяет не отставать от технологий и одновременно защищать пользователей. Однако остаются вопросы: насколько эффективны алгоритмы распознавания? Не пострадают ли невинные блогеры, использующие ИИ для ретуши фото? Пока платформа не раскрывает деталей, но можно ожидать, что в будущем появятся более тонкие инструменты верификации, возможно, с использованием водяных знаков или блокчейна.

Для маркетологов и блогеров это сигнал: эпоха «серых» методов продвижения заканчивается. Теперь придётся либо честно маркировать ИИ-контент, либо полностью переходить на реальные съёмки и настоящие отзывы. В долгосрочной перспективе это очистит рынок и повысит ценность подлинных рекомендаций, что выгодно и брендам, и потребителям.

Часто задаваемые вопросы

Могу ли я использовать ИИ для создания контента в Xiaohongshu?

Да, можете, но обязательно включайте функцию «AI-контент» при публикации. Если вы используете ИИ для генерации текста или изображений, но не маркируете это, ваш аккаунт может быть заблокирован.

Что считается нарушением?

Нарушением считается создание фейковых «опытных» заметок, где вы выдаёте ИИ-сгенерированные материалы за реальные события. Например, публикация несуществующего отеля, врача или косметической процедуры. Также запрещено массовое создание однотипных постов с целью манипуляции рейтингами.

Как пожаловаться на ИИ-фейк?

Если вы заметили подозрительный контент, нажмите на кнопку «Пожаловаться» в правом верхнем углу заметки. Модерация рассмотрит жалобу в кратчайшие сроки.

Источник URL: https://mp.weixin.qq.com/s/Q_zvfcLuVcyn-yY37VphPg

Источник URL: https://mp.weixin.qq.com/s/Q_zvfcLuVcyn-yY37VphPg