20 августа 2020, 14:47

«ВКонтакте» планирует бороться с хейтерами при помощи нейросети

Социальная сеть «ВКонтакте» работает над созданием искусственного интеллекта, функцией которого будет автоматическое распознавание хейтеров, проявляющих вражду и призывающих к насилию в публикациях и комментариях. Нейросеть создается с целью ускорения времени обработки жалоб. Технология призвана сократить количество столкновений пользователей с проявлениями нетерпимости. Благодаря сервису будут быстрее выявляться материалы с враждебными высказываниями и пропагандой к проявлению агрессии.

Планируется, что искусственный интеллект будет бороться с такими видами оскорблений и угроз, как ксенофобия, расизм, гомофобия, сексизм и другими проявлениями дискриминации. Также будут выявляться оскорбления по поводу религиозной принадлежности, пола, возраста, внешнего вида и наличия заболеваний.

Для усиления модерации на тему ненависти и агрессии «ВКонтакте» добавила такой пункт в жалобы как «Враждебные высказывания». Для этого пользователю нужно нажать кнопку «Пожаловаться», а затем выбрать категорию «Враждебные высказывания». При этом служба поддержки будет не только реагировать на жалобы, но и самостоятельно заниматься поиском проявлений агрессии и оскорблений при помощи автоматических нейронных сетей.

Руководитель команды модерации «ВКонтакте» Иван Корнеев заявил, что благодаря искусственному интеллекту враждебный контент удаляется автоматически еще до того, как его увидят пользователи. При этом он призывает пользователей жаловаться на проявления ненависти и призывы к насилию, чтобы решать эту проблему общими усилиями.

В первом квартале 2020 года в соцсети было удалено 520 тысяч единиц контента, разжигающего вражду и ненависть, заблокировано 1340 аккаунтов и 2470 сообществ, которые распространяют такой контент.

Автор: Софья Строгая

Категория: Новости высоких технологий

Новости по теме:

Поделитесь новостью с друзьями
Нашли ошибку в тексте? Выделите ее, и нажмите CTRL+ENTER
Интересные новости
Комментарии для сайта Cackle