Ларри Сэнгер: через год или два можем увидеть «убийцу Википедии». Чат-бот сгенерирует энциклопедию больше во много раз и более предвзятую
18 мая 2023 года
| В этой статье упоминается Фонд Викимедиа, какой-либо из его проектов или люди, имеющие к ним отношение. Викиновости — один из проектов Фонда Викимедиа. |
Сооснователь Википедии, философ Ларри Сэнгер считает, что проблема с фейковыми источниками в генеративных текстах скоро решится, но самое страшное в другом. Сэнгер сравнил ухмылки над ответами чат-ботов со смехом над убогими веб-сайтами в 1994 году, когда многие не верили в перспективы интернета из-за его плохого состояния на раннем этапе. Ему очевидны три вещи:
 |
1. Энциклопедия, созданная искусственным интеллектом, которая больше Википедии, может быть, на один или два порядка [то есть в десятки или сотни раз], вероятно, появится в течение нескольких лет. 2. В течение 5-10 лет энциклопедия, созданная ИИ, может превзойти любую другую энциклопедию не только по детализации, но и по качеству, особенно если ИИ сможет использовать достаточно большую библиотеку книг и журналов. 3. Такие энциклопедии могут точно отражать любую предвзятость, которую хотели бы иметь их контролёры. |  |
Также Сэнгер предполагает, что, скорее всего, только крупнейшие и богатейшие технологические корпорации смогут сделать конкурентоспособных чат-ботов. Чат-боты будут бесплатны для простого использования, но исходный код не будет свободным, многие функции будут платными. И большая часть их бизнес-модели будет основана на управлении населением.
| насколько сильно авторитетный, всегда доступный, интеллектуальный источник информации может влиять на политические взгляды, решения о покупках и другие ваши мнения, которые ваши повелители хотят контролировать. | |
| Кто бы ни создал эту энциклопедию с закрытым исходным кодом, сгенерированную искусственным интеллектом, она определённо не будет автономной [то есть не программирующей пользователя, уважающей его свободу]. Она будет использоваться как скальпель, чтобы хирургическим путём удалить и привить убеждения, за которые управляющим языковой модели платят, чтобы они вам навязывали. Возможности пропаганды, которые предвидят наши контролёры истеблишмента, очевидно являются привлекательными; обладание подобной силой должно быть частью того, что движет нынешней гонкой вооружений ИИ. Можно представить, как они жадно облизываются при мысли об изощренности, с которой эта технология может использоваться для тонкого контроля над населением. Больше, чем любая прибыль на горизонте, контроль над наиболее широко используемым двигателем систематической пропаганды был бы чрезвычайно привлекательным. | |
Ларри Сэнгер назвал пропаганду ИИ «на стероидах» уникальной и огромной угрозой свободе во всем мире. Технология быстро совершенствуется и на горизонте 5-10 лет превзойдет Википедию и Британнику, а если слова производителей об успехах генеративных ИИ верны — возможно, одного или двух лет.
| Но когда темы волнуют контролеров мыслей, мы можем ожидать, что результаты ИИ будут контролировать, манипулировать пропагандой, вероятно, больше, чем Википедия. В конце концов, чат-ботов с искусственным интеллектом легко заставить замолчать о том, о чем им не следует говорить. | |
Сэнгер признаётся, что сам использовал чат-боты, хотя обеспокоен предвзятостью больше многих. Другие люди тоже будут ими пользоваться, если не будет нормального выбора. Он считает, что во время, когда корпорации и правительства стремятся контролировать население, нужно присоединяться к его очередному проекту на этот раз под названием Encyclosphere (Энциклосфера), который является сетью энциклопедий и презентуется как реальная альтернатива «централизованной» Википедии и теперь энциклопедии от ИИ. По его мнению, защитники свободы должны написать свой чат-бот, который бы использовал источники, созданные человеком, уважал свободы и автономию каждого, а не навязывал.
| [Искусственный интеллект] уже очень мощный инструмент, и он будет только развиваться. А власть развращает...и притягивает уже развращенных...и делает их сильнее... | |
 |
См. также: Волшебные аватары Lensa — это часть тренда |
Источники[править]
Комментарии[править]
Если вы хотите сообщить о проблеме в статье (например, фактическая ошибка и т. д.), пожалуйста, используйте обычную страницу обсуждения.
Комментарии на этой странице могут не соответствовать политике нейтральной точки зрения, однако, пожалуйста, придерживайтесь темы и попытайтесь избежать брани, оскорбительных или подстрекательных комментариев. Попробуйте написать такие комментарии, которые заставят задуматься, будут проницательными или спорными. Цивилизованная дискуссия и вежливый спор делают страницу комментариев дружелюбным местом. Пожалуйста, подумайте об этом.
Несколько советов по оформлению реплик:
- Новые темы начинайте, пожалуйста, снизу.
- Используйте символ звёздочки «*» в начале строки для начала новой темы. Далее пишите свой текст.
- Для ответа в начале строки укажите на одну звёздочку больше, чем в предыдущей реплике.
- Пожалуйста, подписывайте все свои сообщения, используя четыре тильды (~~~~). При предварительном просмотре и сохранении они будут автоматически заменены на ваше имя и дату.
Обращаем ваше внимание, что комментарии не предназначены для размещения ссылок на внешние ресурсы не по теме статьи, которые могут быть удалены или скрыты любым участником. Тем не менее, на странице комментариев вы можете сообщить о статьях в СМИ, которые ссылаются на эту заметку, а также о её обсуждении на сторонних ресурсах.
