«ВКонтакте» учит нейросеть разбираться в языке вражды

Соцсеть «ВКонтакте» разрабатывает технологию для автоматического распознавания материалов с хейтспичем — враждебными высказываниями. Это будет искусственный интеллект.

Как сообщает 20 августа пресс-служба «ВКонтакте», новая технология должна ускорить время обработки жалоб и качественно оградить пользователей от проявления нетерпимости. Нейросеть сможет находить материалы с враждебными высказываниями и публикации, провоцирующие агрессию, научится определять самые разные категории оскорблений и угроз: проявления ксенофобии, расизма, гомофобии, сексизма и других предрассудков, оскорбления на почве религиозной принадлежности, возраста, внешности или наличия заболеваний.

Чтобы обучить искусственный интеллект, администрация соцсети добавила новую категорию жалоб — «Враждебные высказывания». Если пользователь нажмёт кнопку «Пожаловаться» у оскорбительной публикации, она попадёт на рассмотрение к модераторам. Эта категория позволит точнее откалибровать уже существующие инструменты.

Команды модерации и поддержки соцсети проводят также внутренний мониторинг, в том числе с помощью механизмов автоматического поиска, технологии цифровых отпечатков и нейронных сетей. Большинство опасных материалов удаляются ещё до того, как их кто-то увидит. В первом полугодии 2020 года на платформе было удалено 520 тысяч единиц контента по теме разжигания вражды и ненависти, а также заблокировано 1340 профилей и 2470 сообществ, распространяющих враждебные высказывания, отмечается в пресс-релизе «ВКонтакте».