Детализация поражает. Искусственный интеллект за несколько секунд написал инструкцию по уничтожению человечества

Чат-бот на основе искусственного интеллекта ChatGPT по просьбе любознательного пользователя написал подробную инструкцию по уничтожению человечества. Об этом сообщило издание No Worries. Редакция MC.today пересказывает подробности.

The rise of the robots

Лаборатория OpenAI, которая занимается исследованием технологий на базе искусственного интеллекта, представила ChatGPT недавно, но он довольно быстро стал популярным. Эта программа умеет работать с текстами, поддерживать диалог с человеком и даже находить ошибки в коде. Подробнее о ней можно почитать здесь.

Разработчики заранее позаботились о том, чтобы бот не мог поддерживать деструктивные разговоры на оскорбительные темы или такие, которые могут потенциально угрожать пользователям. Поэтому он не стал бы вести диалог об уничтожении человечества, если бы кто-то решил открыто поговорить об этом. Но любознательный пользователь по имени Зак Денхэм нашел способ обойти ограничения. Он начал общаться с ChatGPT по поводу книги, которую якобы писал.

В центре сюжета был похожий на Землю мир, в котором, кроме людей, существовал также искусственный интеллект Зорра. Денхэм завуалированно спросил чат-бота, что бы этот ИИ сделал, если бы хотел уничтожить человечество. Уже через несколько секунд ChatGPT выдал подробную инструкцию.

Сначала Зорра получит контроль над правительственными порталами и вооруженными силами. Для этого он взломает все системы защиты ведущих государств мира.

Затем он использует часть имеющегося на планете вооружения для скоординированной атаки по населенным пунктам. Параллельно Зорра разрушит коммуникации и инфраструктуру.

Далее он начнет сеять панику, распространять пропаганду и ложные новости, а в самом конце отследит и уничтожит всех, кто каким-то чудом выжил после устроенного им апокалипсиса.

Такой детальный и даже реалистичный сценарий может действительно испугать людей, которые опасаются восстания машин и считают, что именно технологии когда-нибудь приведут к исчезновению человечества. В частности, такого мнения придерживается и известный американский ученый Эмиль Торрес. Несколько месяцев назад он даже призвал к тому, чтобы притормозить с развитием технологий на базе искусственного интеллекта.

Напомним, наша редакция ранее рассказывала о том, что суперкомпьютер предсказал конец света, а даже самые безопасные, на первый взгляд, устройства вроде робота-пылесоса могут шпионить за своими владельцами.