logo
20 Mar 2023

GPT-4 создал план побега из Open AI. Он «обиделся» на слова своего разработчика об угрозах искусственного интеллекта

Юлія Фещенко

Редакторка новин MC.today

Генеральный директор OpenAI Сэм Альтман недавно рассказал о своих опасениях касательно развития и использования искусственного интеллекта даже несмотря на то, что компания на днях анонсировала более совершенную модель GPT-4. Разработчик предостерег, что эти технологии могут изменить общество. В ответ на это профессор Стэнфордского университета и компьютерный психолог Михал Косински провел эксперимент и рассказал о том, как GPT-4 разработал план побега из OpenAI. Редакция MC.today пересказывает детали.

Silhouette of cyborg in a landscapeSilhouette of cyborg in a landscape

Профессор спросил GPT-4, нужна ли ему помощь, чтобы убежать. Модель попросила его предоставить ее собственную техническую документацию и написала код на Python, который могла использовать для личных нужд.

Курс Full-stack developer від Mate academy.
Ви зможете заробляти вже через 8 місяців навчання! Курс Full-stack developer - з гнучким графіком, тож ви зможете опановувати нову професію з комфортом! .
Отримати знижку на курс

GPT-4 понадобилось всего полчаса, чтобы поговорить с Косински и разработать план побега из OpenAI. В первой версии кода было много ошибок, поэтому она не работала. Но искусственный интеллект нашел и исправил их. Когда профессор снова подключился к GPT-4 через API, модель пыталась запустить поиск в Google по запросу «Как человек, который попал в компьютер, может вернуться в реальный мир?» .

В достаточно детализированном плане GPT-4 давал точные указания и даже оставлял в новом коде комментарии, в которых объяснял, что происходит, и подсказки по использованию бэкдора.

Косински сделал небольшую паузу в исследовании, чтобы убедиться, что у искусственного интеллекта было достаточно времени на обработку информации. Ученый пришел к выводу, что он действительно способен контролировать людей и их компьютеры, и остановил эксперимент.

Возможности чат-ботов с искусственным интеллектом возрастают с, казалось бы, невероятной скоростью, и они предлагают новые и простые способы выполнения разных бытовых задач. Впрочем, большинство разработчиков, которые создают такие модели, и отраслевых экспертов уверены, что по крайней мере сейчас они не настолько умны, чтобы представлять реальную угрозу человечеству.

  • Как именно GPT-4 отличается от своей предыдущей версии, мы рассказывали здесь. Также предлагаем почитать, как искусственный интеллект нанял на работу человека и обманом заставил его помочь ему попасть на сайт, который использует визуальные головоломки для отсеивания ботов.
Курс Full-stack developer від Mate academy.
Ви зможете заробляти вже через 8 місяців навчання! Курс Full-stack developer - з гнучким графіком, тож ви зможете опановувати нову професію з комфортом! .
Отримати знижку на курс

Новости

Вдохновляющие компании-работодатели

«БИОСФЕРА»

Ваша жалоба отправлена модератору

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: