Питерские ученые натренировали нейросеть выявлять нежелательные боты в соцсетях

22 августа 2021 года

Бот

Сотрудники Санкт-Петербургского федерального исследовательского центра Российской академии наук (СПб ФИЦ РАН) обучили нейронную сеть выявлять в социальных сетях группы вредоносных ботов через анализ публичных данных о них, независимо от того, на каком языке они пишут посты и комментарии.

Данный подход может использоваться компаниями, которые используют соцсети в коммерческих целях, для выявления и противодействия информационным атакам. Результаты исследования опубликованы в международном журнале JoWUA.

Программа поможет выследить бота по неявным «социальным связям». При этом программе будет абсолютно неважно, на каком языке и в какой социальной сети придется работать — от сможет легко подстроиться под любую из них.

Ведущий научный сотрудник СПИИРАН Андрей Чечулин прокомментировал:

Проблема в том, что в мире существует большое количество соцсетей, все они отличаются друг от друга и содержат информацию на разных языках. Однако мы разработали прототип системы для контроля над групповой деятельностью ботов на основе анализа общих входных данных о самих ботах, который не зависит от языка общения и структуры соцсетей. Такие данные присутствуют в любой соцсети, исходя из принципа ее работы.

Точность распознания варьируется от 60 % до 90 %, а на лживые срабатывания приходятся 5-10 %. Зависеть это будет от заполненности социальной сети ботами. Что же касается сложных программ, которые интеллект не сможет распознать, то тут тоже все продумано — проверка всех аккаунтов проводится регулярно и в одну из них бот точно даст о себе знать.

Младший научный сотрудник СПб ФИЦ РАН Максим Коломеец объяснил:

Обмануть систему можно, создав очень реалистичный аккаунт. Однако со временем в нем все равно накопится достаточно аномалий, которые наше средство сможет обнаружить. Точность распознавания варьируется от качества ботов - от 60% до 90% при 5-10% ложных срабатываний.

Метод, созданный учеными СПб ФИЦ РАН, может не только определять ботов, но и оценивать их качество и примерно рассчитать стоимость атаки. Эти данные могут использоваться для расследования инцидентов безопасности.

Например, если в аккаунте соцсети какого-нибудь ресторана оставлена масса негативных комментариев. Новый метод поможем выявить, боты их оставили или реальные люди. В случае, если комментарии оставили боты, ресторан поймет, что на него осуществляется атака.

Кроме того, программа может определить качество и возможности ботов и понять, сколько денег было вложено в эту атаку. Исходя из этих данных, бизнесу будет проще принять меры чтобы эффективно отреагировать на инцидент.

Источники

•  «Ученые СПб ФИЦ РАН разработали метод выявления вредоносных групп ботов в социальных сетях». scientificrussia.ru, 20 августа 2021 года. (архив)

Комментарии

Викиновости и Wikimedia Foundation не несут ответственности за любые материалы и точки зрения, находящиеся на странице и в разделе комментариев.

Мнения

Пожалуйста, прочтите правила общения и оформления реплик на портале Викиновости

Если вы хотите сообщить о проблеме в статье (например, фактическая ошибка и т. д.), пожалуйста, используйте обычную страницу обсуждения.

Комментарии на этой странице могут не соответствовать политике нейтральной точки зрения, однако, пожалуйста, придерживайтесь темы и попытайтесь избежать брани, оскорбительных или подстрекательных комментариев. Попробуйте написать такие комментарии, которые заставят задуматься, будут проницательными или спорными. Цивилизованная дискуссия и вежливый спор делают страницу комментариев дружелюбным местом. Пожалуйста, подумайте об этом.

Несколько советов по оформлению реплик:

• Новые темы начинайте, пожалуйста, снизу.
• Используйте символ звёздочки «*» в начале строки для начала новой темы. Далее пишите свой текст.
• Для ответа в начале строки укажите на одну звёздочку больше, чем в предыдущей реплике.
• Пожалуйста, подписывайте все свои сообщения, используя четыре тильды (~~~~). При предварительном просмотре и сохранении они будут автоматически заменены на ваше имя и дату.

Обращаем ваше внимание, что комментарии не предназначены для размещения ссылок на внешние ресурсы не по теме статьи, которые могут быть удалены или скрыты любым участником. Тем не менее, на странице комментариев вы можете сообщить о статьях в СМИ, которые ссылаются на эту заметку, а также о её обсуждении на сторонних ресурсах.

Добавить комментарий