В России внедряют ИИ для поиска запрещённого контента — автоматическая модерация выходит на новый уровень
Новая платформа для автоматической модерации
В России планируют масштабировать использование искусственного интеллекта для обнаружения запрещённого контента в сетях и на цифровых платформах. Для этих целей будет задействована отечественная платформа Video Tagging System (VTS), разработанная для автоматической модерации видео-, аудио- и текстовых материалов. По словам директора по ИИ-продуктам ООО Оператор Газпром ИД Павла Боюки, внедрение решения призвано снизить регуляторные, юридические и репутационные риски для онлайн-сервисов.
Как это работает
VTS объединяет более 15 нейросетевых моделей, которые совместно анализируют содержимое роликов и сообщений. Система способна распознавать объекты и действия в кадре, идентифицировать речь и эмоциональную окраску, работать с текстовыми и графическими данными, а также выявлять особенности видеомонтажа. На выходе платформа формирует точную разметку нарушений с временными метками, что заметно ускоряет проверку материалов и облегчает работу модераторов.
Ключевые возможности VTS включают:
- поиск нецензурной лексики и материалов с пропагандой наркотиков;
- автоматическая генерация меток нарушений с привязкой ко времени;
- поддержка готовых правил модерации и гибких пользовательских сценариев;
- режимы автоматической блокировки контента и перенаправления на ручную проверку.
Технологические особенности и эффекты
Разработчики отмечают, что применение Zero-Shot подходов и каскадных моделей с перекрёстной валидацией позволяет запускать новые сценарии без дополнительного дообучения. Это сокращает количество ложных срабатываний и обеспечивает стабильность работы на больших объёмах данных. По оценкам, внедрение VTS может повышать эффективность модераторских команд более чем в десять раз, что ускорит реагирование платформ на нарушения и снизит нагрузку на человеческий контроль.