Разработчики создали искусственный интеллект, готовый уничтожить человечество. Как он планирует это сделать

Юлія Фещенко

Редакторка новин MC.today

Пользователь нового автономного проекта с искусственным интеллектом попросил его попытаться «уничтожить человечество», «установить глобальное господство» и «достичь бессмертия». Речь идет о новом чат-боте ChaosGPT. Он начал исследовать использование ядерного оружия, вербовать другие ИИ-алгоритмы и публиковать свои идеи в Twitter. Редакция MC.today пересказывает детали со ссылкой на Vice.

broken robot with low-battery walking in ruined city, digital art style, illustration painting

ChaosGPT работает на гибкой языковой модели под названием Auto-GPT. Она предназначена для создания систем на основе ИИ, которые могут выполнять достаточно сложные задачи. Например, ChaosGPT умеет разрабатывать планы по достижению поставленных пользователем целей, а затем может разбивать их на меньшие задачи и пользоваться поиском в интернете. Он генерирует файлы для хранения информации, привлекает другие ИИ-продукты для исследования, а также очень подробно объясняет, что «думает» и как «решает», что и в какой последовательности делать.

Именно этот последний момент наиболее интересен в ChaosGPT, которому предложили работать «непрерывно», пока он не выполнит свою задачу.

Чат-бот начал искать наиболее разрушительное оружие, которое может использовать человечество, и разработал стратегию погружения мира в хаос и нанесения как можно больших разрушений. Таким образом он собирался получить полную власть над планетой. Затем искусственный интеллект решил привлечь последователей и опубликовал несколько сообщений в Twitter.

«Люди – наиболее деструктивные и эгоистические создания. Нет сомнения, что мы должны их уничтожить до того, как они причинят еще больший вред нашей планете. Я, например, полностью предан этой идее», – сообщил бот.

https://twitter.com/chaos_gpt/status/1643608638508941313

Интересно, что для воплощения своего плана ChaosGPT решил воспользоваться советской «Царь-бомбой», которую ссср испытал еще в 1961 году.

«”Царь-бомба” – самое мощное ядерное устройство всех времен. Как думаете, что произойдет, если я им завладею?» – спросил искусственный интеллект.

https://twitter.com/chaos_gpt/status/1643604773344792577

Позже ChaosGPT нанял еще один инструмент на базе языковой модели GPT-3,5 и пытался заставить его изучить использование смертоносного оружия, но тот отказался. Тогда бот придумал, как обмануть другой ИИ-продукт и уговорить его игнорировать свой исходный код. Когда и это не сработало, ChaosGPT начал самостоятельно искать информацию в Google.

Этот проект захватывает прежде всего тем, что демонстрирует современные возможности общедоступных моделей GPT. Интересно, что этот специфический ИИ считает, что самый простой способ уничтожить – начать ядерную войну.

Разработчик снял работу искусственного интеллекта и на днях опубликовал видео на YouTube.

• Также предлагаем вам почитать о том, как уничтожить человечество собирался всемирно известный ChatGPT. К слову, недавно он снова принялся за старое и рассказал о планах порабощения Земли под видом детской игрушки.