Одноклассники внедрили искусственный интеллект для борьбы с токсичностью в комментариях. Новая модель машинного обучения выявляет оскорбительные и провокационные высказывания, временно ограничивая их авторов в публикации новых сообщений.
Время блокировки зависит от частоты нарушений и может составлять от одного часа до суток. Больше деталей далее.
Внедрение этой системы позволило сократить количество токсичных комментариев на платформе на 47%. Модель была обучена на базе 400 тысяч примеров, включающих недружелюбные высказывания и тексты, провоцирующие негативные дискуссии. При создании алгоритма соцсеть провела опросы среди пользователей, чтобы понять, какие комментарии они считают токсичными и нежелательными.
При попытке написать комментарий, пользователь, который получил ограничение за токсичные комментарии, увидит соответствующее уведомление, а также время действия ограничений. Нажав «Подробнее», можно получить расширенную информацию.
По данным исследований, 40% опрошенных испытывают злость и раздражение от негативных сообщений в комментариях. Для решения этой проблемы Одноклассники автоматизировали модерацию, что сократило время обработки жалоб в три раза. Это позволило не только быстрее устранять нарушителей, но и повысить удовлетворённость аудитории.
Директор по продукту Одноклассников Александр Москвичев отметил, что треть всех жалоб на платформе связаны с токсичными комментариями, а 80% обращений пользователей службы поддержки касаются именно этой проблемы. По словам Москвичева, новая ML-модель станет важным шагом к созданию безопасного и уважительного пространства для общения.
Ранее соцсеть уже запускала инструменты автоматической модерации: распознавание и скрытие нецензурных слов, размытие контента эротического характера и удаление сцен насилия. В прошлом году была внедрена модель, ограничивающая нежелательные знакомства и спам.
Эти меры, вместе с новыми алгоритмами, помогают Одноклассникам удерживать аудиторию, возвращать пользователей, а также привлекать новых.
