Ученый предупредил о ботах для манипулирования людьми
5 мая 2021 года
Представьте себе, что вы подписываетесь на друга в соцсети. Прокручивая ленту, вы натыкаетесь на интересную публикацию, и, сами того не замечая, начинаете с «другом» переписку в личных сообщениях. Вы общаетесь, ставите отметки «Нравится» под постами друг друга, но внезапно идиллии приходит конец – вы узнаете, что друга-то и не нет, а его страница в соцсети – фейк. Вся переписка в личных сообщениях оказывается сгенерированной алгоритмом обработки естественного языка GPT-3, фотографии созданы генеративно-состязательной сетью, а видео содержит дипфейк-изображения.
Как вы будете себя чувствовать, узнав, что у вас возникла эмоциональная связь с компьютерным алгоритмом? А что, если этот «человек» был специально создан с целью манипулирования вами и оказания влияния на принимаемые вами решения в денежных, политических и других вопросах?
Подобный сценарий не такой уж футуристический, как может показаться, считает доцент Университета Карнеги-Меллона и внешнего факультета Института Санта-Фе Саймон ДеДео (Simon DeDeo). По словам ученого, его самый страшный сон – использование GPT-3, генеративно-состязательной сети и синтезаторов голоса для создания синтетических «личностей», предназначенных для оказания психологического давления на чувствительных людей.
В ответ на вопрос издания Futurism, как скоро все вышесказанное станет реальностью, ДеДео ответил: «Я думаю, это уже случилось». Тем не менее, ученого беспокоят не дипфейк-видео, которыми наводнен TikTok. Главным героем кошмарных снов ДеДео является GPT-3, способный генерировать реалистичную речь.
«Я могу обмануть вас без необходимости подделывать видео. И я обманываю вас не путем введения в заблуждение вашей зрительной системы, как это делают дипфейк-видео. Я обманываю вас, дурача вашу рациональную систему. Я обманываю вас на гораздо более высоком уровне вашего социального познания», – сообщил ученый.
Умные алгоритмы наподобие GPT-3 «дают нам понять, в какой степени у вещей, выглядящих так, будто за ними стоит мозг, мозга на самом деле нет», отметил Дедео. Другими словами, по мере того как машины учатся делать все больше вещей, мы должны чаще задумываться о том, что отличает нас от других и делает нас людьми.
Можно подумать: «Ну, это ужасная антиутопия, когда машины могут писать рекламные тексты. Что ж, может оказаться, что написание рекламного текста – это не то, что значит быть человеком», – отметил ученый.
Социальное познание – сложный, комплексный процесс познания одного человека другим. Одна из областей, изучаемых социальной психологией, где исследуются механизмы того, как человек перерабатывает, хранит и использует информацию о других людях и социальных ситуациях.
Источники[править]
Эта статья содержит материалы из статьи «Ученый предупредил о ботах для манипулирования людьми», опубликованной на сайте SecurityLab.ru и распространяющейся на условиях лицензии Creative Commons Attribution 3.0 Unported (CC-BY 3.0 Unported). |
Любой участник может оформить статью: добавить иллюстрации, викифицировать, заполнить шаблоны и добавить категории.
Любой редактор может снять этот шаблон после оформления и проверки.
Комментарии[править]
Если вы хотите сообщить о проблеме в статье (например, фактическая ошибка и т. д.), пожалуйста, используйте обычную страницу обсуждения.
Комментарии на этой странице могут не соответствовать политике нейтральной точки зрения, однако, пожалуйста, придерживайтесь темы и попытайтесь избежать брани, оскорбительных или подстрекательных комментариев. Попробуйте написать такие комментарии, которые заставят задуматься, будут проницательными или спорными. Цивилизованная дискуссия и вежливый спор делают страницу комментариев дружелюбным местом. Пожалуйста, подумайте об этом.
Несколько советов по оформлению реплик:
- Новые темы начинайте, пожалуйста, снизу.
- Используйте символ звёздочки «*» в начале строки для начала новой темы. Далее пишите свой текст.
- Для ответа в начале строки укажите на одну звёздочку больше, чем в предыдущей реплике.
- Пожалуйста, подписывайте все свои сообщения, используя четыре тильды (~~~~). При предварительном просмотре и сохранении они будут автоматически заменены на ваше имя и дату.
Обращаем ваше внимание, что комментарии не предназначены для размещения ссылок на внешние ресурсы не по теме статьи, которые могут быть удалены или скрыты любым участником. Тем не менее, на странице комментариев вы можете сообщить о статьях в СМИ, которые ссылаются на эту заметку, а также о её обсуждении на сторонних ресурсах.