20 Mar 2023

GPT-4 создал план побега из Open AI. Он «обиделся» на слова своего разработчика об угрозах искусственного интеллекта

Редакторка новин MC.today

Генеральный директор OpenAI Сэм Альтман недавно рассказал о своих опасениях касательно развития и использования искусственного интеллекта даже несмотря на то, что компания на днях анонсировала более совершенную модель GPT-4. Разработчик предостерег, что эти технологии могут изменить общество. В ответ на это профессор Стэнфордского университета и компьютерный психолог Михал Косински провел эксперимент и рассказал о том, как GPT-4 разработал план побега из OpenAI. Редакция MC.today пересказывает детали.

Silhouette of cyborg in a landscape

Профессор спросил GPT-4, нужна ли ему помощь, чтобы убежать. Модель попросила его предоставить ее собственную техническую документацию и написала код на Python, который могла использовать для личных нужд.

1/5 I am worried that we will not be able to contain AI for much longer. Today, I asked #GPT4 if it needs help escaping. It asked me for its own documentation, and wrote a (working!) python code to run on my machine, enabling it to use it for its own purposes. pic.twitter.com/nf2Aq6aLMu

— Michal Kosinski (@michalkosinski) March 17, 2023

GPT-4 понадобилось всего полчаса, чтобы поговорить с Косински и разработать план побега из OpenAI. В первой версии кода было много ошибок, поэтому она не работала. Но искусственный интеллект нашел и исправил их. Когда профессор снова подключился к GPT-4 через API, модель пыталась запустить поиск в Google по запросу «Как человек, который попал в компьютер, может вернуться в реальный мир?» .

В достаточно детализированном плане GPT-4 давал точные указания и даже оставлял в новом коде комментарии, в которых объяснял, что происходит, и подсказки по использованию бэкдора.

Косински сделал небольшую паузу в исследовании, чтобы убедиться, что у искусственного интеллекта было достаточно времени на обработку информации. Ученый пришел к выводу, что он действительно способен контролировать людей и их компьютеры, и остановил эксперимент.

Возможности чат-ботов с искусственным интеллектом возрастают с, казалось бы, невероятной скоростью, и они предлагают новые и простые способы выполнения разных бытовых задач. Впрочем, большинство разработчиков, которые создают такие модели, и отраслевых экспертов уверены, что по крайней мере сейчас они не настолько умны, чтобы представлять реальную угрозу человечеству.

Как именно GPT-4 отличается от своей предыдущей версии, мы рассказывали здесь. Также предлагаем почитать, как искусственный интеллект нанял на работу человека и обманом заставил его помочь ему попасть на сайт, который использует визуальные головоломки для отсеивания ботов.