Роботи-вбивці можуть стати реальністю. «Хрещений батько» ШІ пішов з Google і попередив про небезпеку розвитку технології

Джеффрі Хінтон, якого називають «хрещеним батьком штучного інтелекту», підтвердив, що залишив свою посаду в Google минулого тижня, щоб мати змогу говорити про небезпеку технології, у розробці якої він брав участь. Про це MC.today повідомляє з посиланням на The New York Times.

Робота Хінтона над нейронними мережами сформувала системи штучного інтелекту, які працюють у багатьох сучасних продуктах. Десять років він працював у Google над розробкою штучного інтелекту технічного гіганта, але відтак у нього почалися занепокоєння щодо цієї технології та його ролі в її розвитку.

«Я втішаю себе звичайним виправданням: якби я цього не зробив, зробив би хтось інший», – сказав Хінтон.

Хінтон сказав, що залишив Google, щоб вільно говорити про ризики ШІ, а не через бажання критикувати Google.

«Я пішов, щоб говорити про небезпеку ШІ, не замислюючись про те, як це вплине на Google», – написав Хінтон. «Google діяв дуже відповідально».

Рішення Хінтона піти з компанії та висловитися про цю технологію сталося в той момент, коли все більше законодавців, правозахисних груп і представників технологічних компаній, в тому числі Стів Возняк та Ілон Маск, висловили занепокоєння щодо потенціалу нової групи чат-ботів на основі ШІ для поширення дезінформації та витіснення робочих місць. Щоправда, Маск згодом заявив про плани створити власний ШІ.

Хвиля уваги навколо ChatGPT наприкінці минулого року допомогла відновити перегони озброєнь серед технологічних компаній у розробці та застосуванні подібних інструментів ШІ у своїх продуктах. OpenAI, Microsoft і Google нині досягли найбільших успіхів, але IBM, Amazon, Baidu і Tencent теж працюють над подібними технологіями.

В інтерв’ю Хінтон повторив занепокоєння щодо потенціалу ШІ знищити робочі місця та створити світ, де багато хто «більше не зможе знати, що правда». Він також вказав на приголомшливі темпи просування, які значно перевищують очікування.

«Ідея про те, що ця штука насправді може стати розумнішою за людей… Але більшість людей думали, що це далеко. І я думав, що це далеко. Я думав, що це буде за 30-50 років або навіть більше. Очевидно, я більше так не думаю».

Ще до того, як піти з Google, Хінтон публічно говорив про потенціал штучного інтелекту приносити шкоду, але й також приносити користь.

Доктор Хінтон, 75-річний британський експатріант, чия кар’єра ґрунтувалася на його особистих переконаннях щодо розробки та використання штучного інтелекту. У 1972 році, будучи аспірантом Единбурзького університету, доктор Хінтон повірив у перспективність нейронних мереж.

Нейронна мережа — це математична система, яка вивчає навички шляхом аналізу даних. У той час мало дослідників вірили в цю ідею. Але це стало справою життя Хінтона.

У 1980-х роках доктор Хінтон був професором інформатики в Університеті Карнегі-Меллона, але переїхав до Канади, оскільки, за його словами, він не бажав брати фінансування Пентагону. У той час більшість досліджень ШІ в Сполучених Штатах фінансувалося Міністерством оборони. Доктор Хінтон категорично проти використання штучного інтелекту на полі бою — того, що він називає «роботами-солдатами».

У 2012 році доктор Хінтон і двоє його студентів у Торонто, Ілля Суцкевер і Алекс Кришевскі, побудували нейронну мережу, яка могла аналізувати тисячі фотографій і навчилася ідентифікувати типові об’єкти, такі як квіти, собаки та машини.

Google купив компанію, засновану доктором Хінтоном і двома його учнями за $44 млн. І їхня система призвела до створення дедалі потужніших технологій, зокрема нових чат-ботів, таких як ChatGPT і Google Bard. Суцкевер став головним науковим співробітником OpenAI. У 2018 році доктор Хінтон і двоє інших давніх співробітників отримали нагороду Тюрінга, яку часто називають «Нобелівською премією з обчислювальної техніки», за роботу над нейронними мережами.

Приблизно в той же час Google, OpenAI та інші компанії почали будувати нейронні мережі, які навчалися на величезній кількості цифрового тексту. Доктор Хінтон вважав, що це потужний спосіб для машин розуміти та генерувати мову, але він був гіршим за те, як люди обробляють мову.

Потім, минулого року, коли Google і OpenAI створили системи, використовуючи набагато більші обсяги даних, його погляд змінився. Він все ще вірив, що ці системи в деяких аспектах поступаються людському мозку, але вважав, що в інших вони затьмарюють людський інтелект. «Можливо, те, що відбувається в цих системах, – сказав він, – насправді набагато краще, ніж те, що відбувається в мозку».

За його словами, до минулого року Google діяв як «належний розпорядник» технології, намагаючись не випускати щось, що може завдати шкоди. Але тепер, коли Microsoft доповнила свою пошукову систему Bing чат-ботом, що кидає виклик основному бізнесу Google, Google намагається розгорнути таку саму технологію. Доктор Хінтон сказав, що технологічні гіганти замкнені в конкуренції, яку неможливо зупинити.

Крім того, що Хінтон переймається, що розвиток ШІ призведе до проблем на ринку праці і поширенням великої кількості дезінформації, він вважає, що проблема може бути ще більш глобальною.

Сьогодні такі чат-боти, як ChatGPT, як правило, доповнюють працівників, вони можуть замінити помічників юристів, особистих помічників, перекладачів та інших, хто виконує механічні завдання.

Але майбутні версії технології становлять загрозу для людства, оскільки вони часто вивчають несподівану поведінку з величезних обсягів даних, які вони аналізують. За його словами, це стає проблемою, оскільки окремі особи та компанії дозволяють ШІ-системам не тільки створювати власний комп’ютерний код, але й для виконувати цей код самостійно. І він боїться того дня, коли справді автономна зброя — ці роботи-вбивці — стануть реальністю.

Багато інших експертів, включаючи багатьох його студентів і колег, кажуть, що ця загроза є гіпотетичною. Але доктор Хінтон вважає, що перегони між Google, Microsoft та іншими переростуть у глобальні, й не припиниться без якогось регулювання.

За його словами, на відміну від ядерної зброї, неможливо дізнатися, чи компанії або країни таємно працюють над цією технологією.

Хінтон не перший співробітник Google, який забив на сполох щодо ШІ. У липні компанія звільнила інженера, який стверджував, що система штучного інтелекту стала розумною, заявивши, що він порушив правила зайнятості та безпеки даних.