Искусственный интеллект почти вдвое сократил количество оскорбительных комментариев в социальных сетях
🤖 Эта технология использует машинное обучение (ML) для выявления пользователей, которые пишут оскорбительные комментарии под публикациями, и блокирует их на период от 1 до 24 часов, в зависимости от частоты оставления негативных комментариев.
📊 ML-модель была обучена на 400 тысячах высказываний. Директор по продукту соцсети «Одноклассники» Александр Москвичев отметил, что треть всех жалоб на платформе касаются негативных комментариев, а 80% обращений в службу поддержки связаны с «токсичностью». Внедрение ML-модели сократило время обработки таких жалоб в три раза.
🔍 Если аккаунт заблокирован ошибочно, пользователь может обратиться в службу поддержки. В случае ошибочного блокирования ограничения будут сняты.
🌐 Кроме того, другие социальные сети, такие как «ВКонтакте», также активно используют ML и нейросетевые технологии для распознавания и блокировки оскорбительных комментариев. Нейросети применяются не только для модерации контента, но и для обработки звука, перевода, поиска объектов на изображениях, рекомендации контента и других задач.
📚 Эксперты подчеркнули, что наиболее эффективно ИИ работает в крупных международных и российских платформах, которые обладают обширной базой данных и ресурсами для внедрения ИИ-технологий.