Российская соцсеть сократила уровень токсичности в комментариях

Временно ограничивать пользователей, которые пишут оскорбительные комментарии в «Одноклассниках», стали с помощью искусственного интеллекта.

В пресс-службе российской соцсети рассказали, что количество таких сообщений под постами, фотографиями и видео сократилось на 47%. По данным исследования, проведённого соцсетью, негативные посты вызывают злость у более чем 40% опрошенных.

ML-модель была обучена на 400 тыс. недружелюбных высказываний. Её запуск позволил сократить время обработки жалоб на токсичные посты в три раза и быстрее помочь людям с решением их проблем. Это также помогло привлечь новых пользователей.