«ВКонтакте» объявила о запуске нейросети для защиты от оскорблений и угроз

Соцсеть сегодня протестирует две новых функции, в их числе фильтр враждебных высказываний и опция рекомендации отказаться от оскорблений.

Социальная сеть «ВКонтакте» в День народного единства проведет эксперимент по борьбе с травлей и оскорблениями в комментариях, говорится в сообщении компании.

В рамках тестового периода «ВКонтакте» запустит сразу две новые функции, которые помогут пользователям реже сталкиваться с нетерпимостью, в частности, с травлей по национальному признаку, оскорблениями на почве религиозной принадлежности, внешности или наличия заболеваний.

Так, в течение сегодняшнего дня для администраторов сообществ будет доступен специальный инструмент враждебных высказываний. Нейросеть начнет самостоятельно удалять комментарии, содержащие различные виды угроз и агрессии. В свою очередь администратор сможет просмотреть удаленные высказывания и при необходимости восстановить их.

Между тем вторая функция доступна для всех пользователей соцсети. Система будет распознавать текст, при написании которого использовались агрессивные слова, и предлагать автору не публиковать высказывание.

По итогам эксперимента администрация «ВКонтакте» примет решение о введении соответствующих опций на постоянной основе.