Новости
Главная / Software / «ВКонтакте» начала тестирование нейросети для борьбы с враждебными высказываниями

«ВКонтакте» начала тестирование нейросети для борьбы с враждебными высказываниями

Социальная площадка «ВКонтакте» разрабатывает нейросеть для борьбы с враждебными высказываниями. Об этом сообщил пресс-центр компании. Технология призвана обезопасить пользователей от нетерпимости и агрессивного поведения.

ВКонтакте

ВКонтакте 

Нейросеть займётся поиском и вычислением проявлений нетерпимости, ксенофобии, расизма, оскорблений и многого другого. Пользователи могут помочь обучению нейросети: для этого разработчики создали специальную категорию жалоб — «Враждебные высказывания». Пока что модерированием будут заниматься модераторы, но это поможет в развитии технологии.

«Мы разделяем позицию наших пользователей и партнёров касательно языка вражды и прославления насилия. Если же вы заметили оскорбительную публикацию, пожалуйтесь на неё. С проявлениями нетерпимости эффективнее бороться вместе — и мы призываем пользователей присоединяться к нам в этой борьбе», — заявил руководитель команды модерации «ВКонтакте» Иван Корнеев.

Согласно центру безопасности «ВКонтакте», правила платформы запрещают:

  • Прямые угрозы здоровью и жизни;
  • Призывы к суициду;
  • Враждебные высказывания, поощряющие насилие и нападки на человека (или группу людей) с целью унижения их достоинства;
  • Призывы к сегрегации и подстрекательство к насилию;
  • Оправдание насилия, дискриминации и сегрегации на основе религиозных убеждений, этнической или сексуальной принадлежности и др.

Соцсеть также поделилась статистикой блокировок за враждебное поведение пользовательской аудитории. За полгода сервис заблокировал более 520 тысяч единиц контента, 2400 сообществ и 1340 учётных записей.

Источник:


Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме