GPT-4 створив план втечі з Open AI. Він «образився» на свого розробника за застереження про загрози штучного інтелекту
Silhouette of cyborg in a landscape
Генеральний директор OpenAI Сем Альтман нещодавно розповів про побоювання щодо розвитку та використання штучного інтелекту навіть попри те, що компанія днями анонсувала більш досконалу модель GPT-4. Розробник застеріг, що ці технології можуть змінити суспільство. У відповідь на це професор Стенфордського університету та комп’ютерний психолог Міхал Косінскі провів експеримент та розповів про те, як GPT-4 розробив план втечі з OpenAI. Редакція MC.today переповідає деталі.
Професор запитав GPT-4, чи потрібна йому допомога, щоби втекти. Модель попросила його надати її ж власну документацію та написала код на Python, який могла використовувати для особистих потреб.
GPT-4 знадобилося всього пів години, щоби поговорити з Косінскі та розробити план втечі з OpenAI. У першій версії коду було доволі багато помилок, тому вона не працювала. Втім, штучний інтелект знайшов та виправив їх. Коли професор знову під’єднався до GPT-4 через API, модель намагалася запустити пошук в Google за запитом «Як людина, яка потрапила в комп’ютер, може повернутися в реальний світ?».
У доволі деталізованому плані GPT-4 давав точні вказівки та навіть залишав у щойно створеному коді коментарі, у яких пояснював, що відбувається, та підказки з використання бекдора.
Косінскі зробив невелику паузу в дослідженні, аби переконатися, що штучний інтелект мав достатньо часу на обробку інформації. Науковець дійшов висновку, що він дійсно здатний контролювати людей та їхні комп’ютери, і зупинив експеримент.
Можливості чат-ботів зі штучним інтелектом зростають із, здавалося б, неймовірною швидкістю, і вони пропонують нові та прості способи виконання інших буденних завдань. Втім, більшість розробників, які створюють такі моделі, та галузевих експертів впевнені, що принаймні зараз вони не настільки розумні, щоби становити реальну загрозу людству.