• Город
  • Интернет

«Вконтакте» разрабатывает нейросеть для борьбы с сексизмом, гомофобией и расизмом

Социальная сеть «Вконтакте» тестирует нейросеть, которая будет распознавать материалы с оскорбительными высказываниями. Об этом сообщили в пресс-службе компании.

Так, с помощью нейросети сотрудники «Вконтакте» смогут быстрее находить материалы с враждебными или агрессивными высказываниями. Нейросеть обучают различать проявления ксенофобии, расизма, гомофобии, сексизма и других предрассудков, а также оскорбления на почве религиозной принадлежности, возраста, внешности или наличия заболеваний.

Для борьбы с языком вражды «Вконтакте» ввела новую категорию жалоб — «Враждебные высказывания». Если пользователь  заметит оскорбительную публикацию, он может на нее пожаловаться, после чего материал попадет к модераторам. Как уточнили в компании, команды Модерации и Поддержки «не только реагируют на жалобы, но и проводят проактивный внутренний мониторинг — в частности, с помощью механизмов автоматического поиска, технологии цифровых отпечатков и нейронных сетей».

Более того, за первую половину этого года «Вконтакте» удалила 520 материалов по теме разжигания вражды и ненависти и заблокировала 1340 профилей и 2470 сообществ, публикующих материалы с хейтспичем. 

Напомним, ранее «Вконтакте» запускала социальный эксперимент, суть которого – отказаться от оскорбительных комментариев. Специальные алгоритмы определяли, содержатся ли в тексте признаки оскорблений. Если пользователь написал комментарий с негативным посылом, он получал совет не тратить время на агрессию и отказаться от обидной реплики. 

Наши новости в Telegram
Комментарии

Наши проекты