В улюблених книжках Ілона Маска у світі править ШІ, а люди стають гедоністами. Що ми будемо робити з появою суперінтелекту. Переказ The Economist

У виданні The Economist вийшов матеріал на тему «Для чого потрібні люди у світі супер-ШІ?». Це такий собі привід для роздумів, що базується на економічних принципах.

В матеріалі аналізують, чи не переїде людина на диван найближчим часом та що взагалі їй залишиться робити у світі, де існуватиме суперінтелект. Редакція MC.today публікує переказ тексту. Перекладено бюро перекладів «Профпереклад».

У мультфільмі «Волл-І» (2008) люди живуть у світі, який можна охарактеризувати як повністю автоматизований елітний комунізм. Усю продуктивну працю виконують роботи зі штучним інтелектом та напрочуд різноманітними формами. Люди гладшають, пересуваються в спеціальних кріслах та дивляться телевізор.

Цикл науково-фантастичних романів «Культура» за авторством шотландця Ієна М. Бенкса розвиває цю ідею далі. Він описує світ, де ШІ перетворився на достатньо могутній інструмент, аби стати суперінтелектом. Його робота виходить за будь-які нині передбачувані межі. Це улюблені книжки Джеффа Безоса та Ілона Маска, очільників Amazon та Tesla.

У світі, створеному Бенксом, дефіцит пішов у небуття, а більшістю виробничих процесів керує штучний мозок. Людям залишається мистецтво, дослідження всесвітніх культур та відверто гедоністичні насолоди.

Такі історії спершу можуть здатися надуманими. Однак різкий стрибок у розвитку генеративного штучного інтелекту, як-от популярний чатбот ChatGPT, вже змусив багато кого серйозніше поставитися до цього питання. 22 травня засновники OpenАІ написали у блозі:

«Цілком можливо, що за наступні десятки років системи ШІ перевершать рівень людських експертних навичок у більшості сфер та виконуватимуть усю продуктивну роботу однієї з нинішніх найбільших корпорацій».

Чимало технарів уподобали платформу онлайн-прогнозування Metaculus. Минулого літа на ній обговорювали ШІ, здатний після двогодинного чату змусити людей повірити, ніби вони спілкуються з людиною. Теоретично такий ШІ також повинен мати достатньо роботехнічних можливостей, аби зібрати модель автомобіля та пройти безліч інших різноманітних когнітивних тестів. Так от, тамтешні прогнозисти припускали, що створення такого ШІ відбудеться не раніше початку 2040-х років. Усього за рік приголомшливих проривів у цій сфері цей строк за прогнозами скоротився на 10 років. Та й грошей на дослідження не бракує. Цього року вже з’явилися п’ять нових стартапів з капіталом від $1 млрд, які займаються розробкою генеративного ШІ.

Створення загального ШІ, який би вправлявся геть з усім краще за найкрутішого спеціаліста, може зайняти більше часу, ніж очікувалось. Втім, що більше зростає ймовірність появи надпотужного ШІ, то частіше звучить питання: а що тоді залишиться людству? Чи не переїдемо ми на диван, як у мультику «Волл-І»? Уявімо цю ситуацію, керуючись принципами економіки.

Весь ШІ у твоїх руках

Такий ментальний експеримент неминуче потребує відносно героїчних припущень. По-перше, ми припускаємо, що ШІ буде доброзичливим, контрольованим і відрізнятиметься від людей. Також припускаємо, що людська культура зазнає не надто радикальних змін через технологічний прогрес. Тобто люди не почнуть закохуватися в ШІ й не перетворять його на божество.

Натомість уявімо ШІ як інструмент: віртуальний, надрозумний бот, дешевший за грязюку. Припустімо ще й ліквідацію проблем широкого застосування ШІ, як-от енергетичні обмеження. Звісно, це неможливо гарантувати, однак допомагає у цій ментальній вправі.

У 2019 році троє економістів, Філіпп Агьон, Бен Джонс та Чад Джонс, змоделювали вплив ШІ. За цією моделлю вибухове економічне зростання є доволі правдоподібним, якщо використати ШІ для автоматизації усього виробництва, включно із самим процесом дослідження. Тобто самовдосконалитись. До роботи над будь-якою проблемою можна залучити майже безкінечну кількість ШІ, що відкриває широкі наукові можливості. Однак їхня модель мала один важливий нюанс.

Якщо ШІ автоматизує не все виробництво чи процес дослідження, а тільки більшу частину, жодного зростання не відбудеться. За словами економістів: «Можливо, економічне зростання обмежується не тим, що ми добре вміємо робити, а тим, що є критично важливим і водночас важко піддається покращенню».

Покійний економіст Вільям Баумол запропонував пояснення цьому феномену. У статті 1965 року він разом із колегою Вільямом Бовеном дослідив гонорари артистів сцени. Вони помітили, що «скрипаль, який виконує квартет Шуберта у стандартній концертній залі, видає відносно фіксований результат за людино-годину». Технологічний прогрес підвищив продуктивність в інших галузях, але виконавче мистецтво залишилося без змін. Люди досі бажають витрачати гроші на мистецтво попри зростання цін (через нееластичність попиту). Тому мистецтво зайняло більшу частку ВВП, а отже, впливало на загальне зростання.

Приклад Баумола вказує на ширший принцип. Припустімо, що галузі, які ШІ здатен повністю автоматизувати, є усього лише недосконалими замінниками тих, де він провалиться. Далі – що попит на неавтоматизовані галузі буде важко змінити. Тоді непродуктивні галузі зростатимуть як частка ВВП, зменшуючи загальне зростання. Панове Агьон, Джонс і Джонс відмічають, що насправді саме це й відбувалося протягом минулого століття. Технології автоматизували певні ділянки сільського господарства та виробництва товарів, що призвело до зниження відносної вартості продукції. Як наслідок, люди витратили більшу частку доходу в галузях освіти, медицини та відпочинку, де не спостерігався аналогічний приріст продуктивності.

Чи матиме значення історія Баумола у світі, де ШІ набагато здібніший за найталановитіших людей? Відповідь, напевно, ствердна, якщо ШІ не отримає фізичної оболонки – можливо, через відставання у розвитку робототехніки. Більша частина економіки включно з будівництвом і виробництвом, безумовно, мають фізичне втілення. Зараз маємо безліч професій, зокрема в медицині, де потрібно поєднати розумові здібності з умінням маніпулювати фізичним світом. Такі професії ставатимуть дедалі важливішими навіть за умови домінування ШІ у когнітивній сфері. Люди працюватимуть у фізичному світі, можливо, під керівництвом штучного інтелекту, який замінить директорів чи «професорів».

Але що як надпотужний ШІ почне розробляти супергуманоїдних роботів? Механічні руки майже напевно вдовольнятимуть матеріальні потреби. Тоді можна очікувати, що людство відмовиться від важкої праці, як це й показано у «Волл-І». Справді, у 1930 році економіст Джон Мейнард Кейнс написав есе «Економічні можливості для наших онуків». Він припустив, що через століття люди працюватимуть менше 15 годин на тиждень. За його прогнозом, зростання, створене технологіями, вирішить «економічну проблему», а це в свою чергу дозволить людям нарешті звернути увагу на приємніші справи. Щоправда, цей 15-годинний робочий тиждень так і не настав. Тим не менше, підвищений рівень добробуту зменшує вигоду від зайвої години праці, і це призвело до скорочення робочого часу. У «багатому» світі середня тривалість робочого тижня дійсно скоротилася. Наприкінці ХХ століття вона становила 60 годин, а сьогодні – менше 40.

Втім, є деякі бажання, які, мабуть, може задовольнити лише людина. Навіть у світі надпотужного штучного інтелекту, який має фізичну оболонку. Також варто зазначити, що приємні заняття можуть включати й роботу. Розглянемо три сфери, де людина досі може відігравати певну роль: робота, яку важко відрізнити від гри, сама гра та робота, де людина досі зберігає певну перевагу.

Ігри та розваги

Почнемо з розмитої межі між роботою та грою. Так, за останнє століття робочий час скоротився, при цьому найбільше скорочення припало на період до 1980-х рр. Багатії дедалі частіше працюють довше, ніж бідні. Есе Кейнса натякає на пояснення цієї дивини. Він розділив людські бажання на дві групи. Перша – абсолютні потреби, які ми відчуваємо незалежно від становища наших ближніх. Друга – відносні потреби, які ми відчуваємо лише тоді, коли їх задоволення піднімає нас над ближніми, змушуючи нас почуватися вищими за них.

Можливо, Кейнс недооцінив обсяги другого класу бажань. Можна було б цинічно припустити, що до цієї групи потрапляють цілі академічні дисципліни. Ті, що не мають жодної видимої цінності для світу, однак науковці все одно несамовито змагаються за статус, що визначається їхньою кмітливістю. Економісти сказали б, що для багатьох робота стала «споживчим товаром» і пропонує набагато більше користі, ніж фінансовий дохід.

Інший натяк на можливу відмову людства від роботи бачимо в іграх. Мільйони людей працюють у сфері розваг та спорту. Вони змагаються за вплив у діяльності, яка декому може здатися несуттєвою. Можливо, коли штучний інтелект замінить людину, також зменшиться й інтерес до перегляду таких ігор. Однак приклади з тих видів спорту, де люди вже відійшли на другий план, свідчать про протилежне. У 1997 році комп’ютер DeepBlue від IBM виграв у шахи у світового гросмейстера Гаррі Каспарова. Відтоді інтерес до цієї гри лише зріс. Схожа картина спостерігається також в інших іграх, до яких долучився ШІ. Сюди входить стародавня китайська настільна гра Го та змагальні відеоігри. За останнє десятиліття кількість гравців у відеоігри в усьому світі майже подвоїлася й минулого року сягнула 3,2 млрд. Сьогодні зростаючий клас геймерів бере участь у змаганнях або стрімінгу та цим заробляє на життя.

ШІ може посилити цей інтерес. За припущенням Бенкса, люди могли б спеціалізуватися «на тому, що дійсно важливе в житті, наприклад, спорт, ігри, романтика, вивчення мертвих мов, варварських суспільств і нерозв’язних проблем. Інші люди, ймовірно, забажали б на це подивитися.

Малоймовірно, що люди віддадуть роботам контроль над політикою. Швидше за все, люди приділятимуть ШІ ще більше уваги, щойно він перевершить людину. Можливе делегування деяких політичних завдань: наприклад, люди вноситимуть свої вподобання у модель ШІ, яка створює пропозиції щодо їх балансу. Проте, як стверджували деякі політичні філософи, зокрема Джон Лок у XVII столітті та Джон Ролз у ХХ столітті, участь у політичних процесах надає результатам більшої легітимності в очах співгромадян. Також з’явилися б і більш цинічні міркування. Людям подобається мати вплив на інших людей. Це навряд чи зміниться навіть у світі, де машини задовольняють базові потреби й бажання абсолютно всіх. Справді, найбагатші американці (1%) беруть у політичному житті вдвічі або втричі більшу участь, ніж широка громадськість. Це стосується усього, від голосування до часу, витраченого на політику.

Наостанок розглянемо сфери, де люди мають перевагу в наданні товарів чи послуг. Назвемо це «людською премією». Ця премія збереже попит на робочу силу навіть в епоху надсучасного ШІ. Однією з можливих областей є оприлюднення приватної інформації. Вірогідно, люди ділитимуться своїми секретами з іншими людьми охочіше, ніж з машинами. Тому збережеться й роль тих, кому довірятимуть вибіркове розкриття такої інформації світові, аби потім згодувати її машинам. Вашому кореспонденту хотілося б вірити, що журналісти-розслідувачі не залишаться без роботи.

«Людська премія» також може з’явитися в інших місцях. Люди цінують історію, міфи й сенс. Невзаємозамінні токени, походження яких можна перевірити у блокчейні, зазвичай мають набагато вищу цінність, ніж зображення з ідентичними пікселями, але різною історією. Наприклад, у сфері догляду й терапії люди отримують цінність від того, що інші проводять з ними час, якого й так замало. Це додає відчуттів до взаємодії. Штучні діаманти мають ту ж молекулярну структуру, що й видобуті з землі, але продаються з величезними знижками – за деякими оцінками, близько 70%. У майбутньому особливо жаданими можуть стати вироби з позначкою «зроблено людиною».

Проблеми людського фактора

Ця людська премія могла би вплинути на зростання, якби була достатньо великою. Розділіть сектори економіки на дві групи – з великою людською премією та без неї. Якщо люди не бажають замінювати «машинні» товари й послуги на вироблені людиною, ефект Баумола лише поглибиться. Вимірюване економічне зростання може навіть сягнути нуля. Дійсно, якщо надпотужний штучний інтелект не зуміє прискорити зростання, це означатиме, що економіка вже вийшла за межі матеріальності. Ба більше, вона рухається в бік гри, політики та сфер, де люди найбільше цінують взаємодію з іншими людьми.

Можливо, одного дня ШІ створить абсолютно нові товари й послуги. І вони перевершать бажання людей догоджати й взаємодіяти з іншими людьми. Тоді завдяки способу розгортання такої конкуренції ми виявимо дещо дуже глибинне: наскільки людина насправді є «соціальною твариною»?

Джерело: матеріал The Economist.