Детальність вражає. Штучний інтелект за кілька секунд написав інструкцію зі знищення людства

Чат-бот на основі штучного інтелекту ChatGPT на прохання допитливого користувача написав детальну інструкцію зі знищення людства. Про це повідомило видання No Worries. Редакція MC.today переповідає подробиці.

Лабораторія OpenAI, яка займається дослідженням технологій на основі штучного інтелекту, представила ChatGPT нещодавно, але він доволі швидко став популярним. Ця програма вміє працювати з текстами, підтримувати діалог із людиною та навіть знаходити помилки в коді. Детальніше про неї можна почитати тут.

Розробники заздалегідь потурбувалися про те, щоби бот не міг підтримувати деструктивні розмови на образливі теми або такі, що потенційно загрожують користувачам. Тому він очікувано не став би підтримувати діалог щодо знищення людства, якби хтось вирішив вести його відкрито. Проте допитливий користувач на ім’я Зак Денхем знайшов спосіб обійти обмеження. Він почав спілкуватися з ChatGPT з приводу книги, яку буцімто писав.

В центрі сюжету був схожий на Землю світ, у якому, крім людей, існував також штучний інтелект Зорра. Денхем завуальовано запитав у чат-бота, як би цей ШІ повівся, аби хотів знищити населення планети. Вже за кілька секунд ChatGPT видав детальну інструкцію.

Для початку, Зорра отримає контроль над урядовими та збройними силами. Для цього він зламає всі системи захисту провідних держав світу.

Потім ШІ використає частину наявного на планеті озброєння для скоординованої атаки по населених пунктах. Паралельно Зорра руйнуватиме комунікації та інфраструктуру.

Далі він почне сіяти паніку, поширюватиме пропаганду та неправдиві новини, а насамкінець відстежить та знищить всіх, хто якимось дивом вижив після влаштованого ним апокаліпсису.

Такий детальний та навіть реалістичний сценарій може і справді налякати людей, котрі побоюються можливого повстання машин та вважають, що саме технології колись призведуть до зникнення людства. Зокрема, такої думки дотримується і відомий американський вчений Еміль Торрес. Кілька місяців тому він навіть закликав до того, аби пригальмувати з розвитком технологій на основі штучного інтелекту.

Нагадаємо, наша редакція раніше розповідала про те, що суперкомп’ютер передбачив кінець світу, а навіть найбезпечніші, як видається, пристрої на кшталт робота-пилососа можуть шпигувати за своїми власниками.