Reddit использует ИИ-модели для борьбы со спамом
Платформа внедряет автоматическую фильтрацию контента на основе языковых моделей.
Reddit начал применять крупные языковые модели для борьбы со спамом. Проблема усугубилась из-за того, что те же технологии ИИ массово создают мусорный контент.
Администрация платформы заявила, что ручная модерация больше не справляется. Боты стали умнее — они научились обходить капчу и имитировать поведение пользователей. В ответ Reddit разработал систему автоматической фильтрации на основе LLM.
Новый инструмент анализирует посты и комментарии в реальном времени, оценивая стиль текста, частоту публикаций и паттерны взаимодействия. За первый месяц тестирования система отфильтровала 500 тысяч подозрительных сообщений.
Эксперты отмечают иронию ситуации: платформы вынуждены бороться с последствиями технологий, которые сами популяризировали. Эффективность ИИ-модерации пока не идеальна — около 15% удалённого контента оказались ложными срабатываниями.
Reddit планирует доработать алгоритмы, чтобы снизить процент ошибок. В будущем система должна научиться отличать креативных ботов от реальных пользователей. Однако гонка вооружений между создателями спама и фильтрами только начинается.
