В День народного единства «ВКонтакте» проведет эксперименты по борьбе с оскорблениями при помощи нейросетей
4 ноября 2020 года
Социальная сеть "ВКонтакте" объявила о проведении в День народного единства эксперимента "для борьбы с оскорблениями и травлей в комментариях". В рамках этого эксперимента компания протестирует новый функционал, позволяющий бороться с враждебными высказываниями.
"4 ноября ровно на сутки в настройках сообществ появится возможность включить фильтр враждебных высказываний. Нейросеть удаляет комментарии, в которых содержатся угрозы, - например, пожелания смерти или обещания причинить вред здоровью. При этом администратор сможет увидеть все комментарии, которые отсеял фильтр, и восстановить их или отправить автора в чёрный список. Как и другие фильтры в сообществах, фильтр враждебных высказываний можно включить или выключить в любой момент", - сообщили в компании, уточнив, что результаты эксперимента будут использованы для доработки нейросети.
Кроме того, соцсеть решила масштабировать прошлогодний эксперимент: когда пользователь пишет комментарий, алгоритмы определяют, есть ли в тексте признаки оскорблений. Если да, то автор получает совет не тратить время на агрессию и отказаться от обидной реплики. Год назад благодаря такому предупреждению за сутки удалось сократить количество оскорблений в комментариях на 36%.
"В этот раз функция будет определять более широкий спектр оскорблений и угроз. Среди них - проявления нетерпимости по национальному признаку, а также враждебные высказывания на почве религиозной принадлежности, возраста, пола и других характеристик. 4 ноября предупреждение смогут увидеть все пользователи, а позже начнётся долгосрочный тест, рассчитанный на часть аудитории", - добавили в соцсети.
О том, что "ВКонтакте" работает над алгоритмом для автоматического распознавания материалов с враждебными высказываниями, стало известно в августе. В компании тогда сообщили, что новая нейросеть поможет быстрее находить материалы с враждебными высказываниями, а также публикации, которые провоцируют аудиторию проявлять агрессию.
В январе-июне этого года из "ВКонтакте" было удалено 520 тыс. единиц контента, разжигающего вражду. Кроме того, было заблокировано 1340 профилей и 2470 сообществ, распространяющих враждебные высказывания.
Отметим, что другие соцсети также активно внедряют инструменты для отслеживания запрещенного контента. На внедрении таких инструментов и ускорении процесса удаления противоправного контента настаивают власти Евросоюза.
Источники[править]
Любой участник может оформить статью: добавить иллюстрации, викифицировать, заполнить шаблоны и добавить категории.
Любой редактор может снять этот шаблон после оформления и проверки.
Комментарии[править]
Если вы хотите сообщить о проблеме в статье (например, фактическая ошибка и т. д.), пожалуйста, используйте обычную страницу обсуждения.
Комментарии на этой странице могут не соответствовать политике нейтральной точки зрения, однако, пожалуйста, придерживайтесь темы и попытайтесь избежать брани, оскорбительных или подстрекательных комментариев. Попробуйте написать такие комментарии, которые заставят задуматься, будут проницательными или спорными. Цивилизованная дискуссия и вежливый спор делают страницу комментариев дружелюбным местом. Пожалуйста, подумайте об этом.
Несколько советов по оформлению реплик:
- Новые темы начинайте, пожалуйста, снизу.
- Используйте символ звёздочки «*» в начале строки для начала новой темы. Далее пишите свой текст.
- Для ответа в начале строки укажите на одну звёздочку больше, чем в предыдущей реплике.
- Пожалуйста, подписывайте все свои сообщения, используя четыре тильды (~~~~). При предварительном просмотре и сохранении они будут автоматически заменены на ваше имя и дату.
Обращаем ваше внимание, что комментарии не предназначены для размещения ссылок на внешние ресурсы не по теме статьи, которые могут быть удалены или скрыты любым участником. Тем не менее, на странице комментариев вы можете сообщить о статьях в СМИ, которые ссылаются на эту заметку, а также о её обсуждении на сторонних ресурсах.