В любимых книгах Илона Маска в мире правит ИИ, а люди становятся гедонистами. Что мы будем делать с появлением супер интеллекта. Пересказ The Economist

В издании The Economist вышел материал на тему «Для чего нужны люди в мире супер-ИИ?». Это такой повод для размышлений, основанный на экономических принципах.

В любимых книгах Илона Маска в мире правит ИИ, а люди становятся гедонистами. Что мы будем делать с появлением супер интеллекта. Пересказ The Economist

В материале анализируют, не переедет ли человек на диван в ближайшее время и что вообще ему останется делать в мире, где будет существовать супер интеллект. Редакция MC.today публикует пересказ текста. Переведено бюро переводов «Профпереклад».

Перевод от

В мультфильме «Волл-І» (2008) люди живут в мире, который можно охарактеризовать как полностью автоматизированный элитный коммунизм. Весь производительный труд выполняют работы с искусственным интеллектом. Люди толстеют, передвигаются в специальных креслах и смотрят телевизор.

Цикл научно-фантастических романов «Культура» за авторством шотландца Иена М. Бенкса развивает эту идею дальше. Он описывает мир, где ИИ превратился в достаточно мощный инструмент, чтобы стать суперинтеллектом. Его работа выходит за любые ныне предполагаемые пределы. Это любимые книги Джеффа Безоса и Илона Маска, руководителей Amazon и Tesla.

В мире, созданном Бэнксом, дефицит ушел в небытие, а большинством производственных процессов управляет искусственный мозг. Людям остается искусство, исследование всемирных культур и откровенно гедонистические наслаждения.

Такие истории сперва могут показаться надуманными. Однако резкий скачок в развитии генеративного искусственного интеллекта, например популярный чат-бот ChatGPT, уже заставил многих серьезнее отнестись к этому вопросу. 22 мая основатели OpenAI написали в блоге:

Источник: The Economist

«Вполне возможно, что за следующие десятки лет системы ИИ превзойдут уровень человеческих экспертных навыков в большинстве сфер и будут выполнять всю продуктивную работу одной из нынешних крупнейших корпораций».

Многие технари предпочли платформу онлайн-прогнозирования Metaculus. Прошлым летом на ней обсуждали ИИ, который способен после двухчасового общения заставить людей поверить, что они общаются с человеком. Теоретически такой ИИ также должен иметь достаточно роботехнических возможностей, чтобы собрать модель автомобиля и пройти множество различных когнитивных тестов. Так вот, тамошние прогнозисты предполагали, что создание такого ИИ состоится не раньше начала 2040-х годов. Всего за год потрясающих прорывов в этой сфере этот срок по прогнозам сократился на 10 лет. Да и денег на исследование достаточно. В этом году уже появилось пять новых стартапов с капиталом от $1 млрд, занимающихся разработкой генеративного ИИ.

Создание общего ИИ, который бы управлялся со всем лучше крутого специалиста, может занять больше времени, чем ожидалось. Впрочем, чем больше растет вероятность появления сверхмощного ИИ, тем чаще звучит вопрос: а что тогда останется человечеству? Не переедем ли мы на диван, как в мультике «Волл-І»? Представим эту ситуацию, руководствуясь принципами экономики.

Весь ИИ в твоих руках

Такой ментальный эксперимент неизбежно нуждается в действительно героических предположениях. Во-первых, мы предполагаем, что ИИ будет дружелюбным, контролируемым и будет отличаться от людей. Также предполагаем, что человеческая культура претерпевает не слишком радикальные изменения из-за технологического прогресса. То есть люди не начнут влюбляться в ИИ и не превратят его в божество.

Вместо этого представим ИИ как инструмент: виртуальный, сверхумный бот, который дешевле грязи. Допустим еще и ликвидацию проблем широкого применения ИИ, таких как энергетические ограничения. Конечно, это невозможно гарантировать, однако помогает в этом ментальном упражнении.

В 2019 году трое экономистов, Филипп Аген, Бен Джонс и Чад Джонс, смоделировали влияние ИИ. По этой модели взрывной экономический рост достаточно правдоподобен, если использовать ИИ для автоматизации всего производства, включая сам процесс исследования. То есть самосовершенствоваться. К работе над любой проблемой можно привлечь почти бесконечное количество ИИ, которое откроет широкие научные возможности. Однако их модель имела один важный нюанс.

Если ИИ автоматизирует не все производство или процесс исследования, а только большую часть, никакого роста не произойдет. Экономисты говорят: «Возможно, экономический рост ограничивается не тем, что мы хорошо умеем делать, а тем, что критически важно и в то же время трудно поддается улучшению».

Покойный экономист Уильям Баумол предложил объяснение этому феномену. В статье 1965 года он вместе с коллегой Уильямом Бовеном исследовал гонорары артистов сцены. Они заметили, что «скрипач, который исполняет квартет Шуберта в стандартном концертном зале, выдает относительно фиксированный результат за человеко-час». Технологический прогресс повысил производительность в других отраслях, но исполнительское искусство осталось без изменений. Люди до сих пор хотят тратить деньги на искусство, несмотря на рост цен. Поэтому искусство заняло большую долю ВВП, а значит, повлияло на общий рост.

Пример Баумола указывает на более широкий принцип. Предположим, что отрасли, которые ИИ способны полностью автоматизировать, являются всего лишь несовершенными заменителями тех, где он провалится. Далее – что спрос на неавтоматизированные отрасли будет сложно изменить. Тогда непродуктивные отрасли будут расти как доля ВВП, уменьшая общий рост. Господа Аген, Джонс и Джонс отмечают, что именно это и происходило на протяжении прошлого века. Технологии автоматизировали некоторые сферы сельского хозяйства и производства товаров, что привело к снижению относительной стоимости продукции. Как следствие, люди потратили большую долю дохода в области образования, медицины и отдыха, где не наблюдался аналогичный прирост производительности.

Будет ли иметь значение история Баумола в мире, где ИИ намного способнее талантливых людей? Ответ, наверное, утвердительный, если ИИ не получит физической оболочки – возможно из-за отставания в развитии робототехники. Большая часть экономики, включая строительство и производство, безусловно, имеют физическое воплощение. Сейчас есть множество профессий, в частности в медицине, где нужно сочетать умственные способности с умением манипулировать физическим миром. Такие профессии будут становиться все более важными даже при доминировании ИИ в когнитивной сфере. Люди будут работать в физическом мире, возможно, под руководством искусственного интеллекта, заменяющего директоров или «профессоров».

Источник The Economist

Но что, как сверхмощный ИИ начнет разрабатывать супергуманоидных роботов? Механические руки почти наверняка будут удовлетворять материальные нужды. Тогда можно ожидать, что человечество откажется от тяжелого труда, как это показано в «Волл-І». Действительно, в 1930 году экономист Джон Мэйнард Кейнс написал эссе «Экономические возможности для наших внуков». Он предположил, что через столетия люди будут работать менее 15 часов в неделю. По его прогнозу, рост, созданный технологиями, решит «экономическую проблему», а это в свою очередь позволит людям наконец-то обратить внимание на более приятные дела. Правда, эта 15-часовая рабочая неделя так и не наступила. Тем не менее, повышенный уровень благосостояния уменьшает выгоду от лишнего времени работы, и это приводит к сокращению рабочего времени.В «богатом» мире средняя продолжительность рабочей недели действительно сократилась. В конце ХХ века она составляла 60 часов, а сегодня – менее 40 часов.

Впрочем, есть некоторые желания, которые, вероятно, может удовлетворить только человек. Даже в мире сверхмощного искусственного интеллекта, имеющего физическую оболочку. Рассмотрим три сферы, где человек до сих пор может играть определенную роль: работа, которую трудно отличить от игры, сама игра и работа, где человек до сих пор сохраняет определенное преимущество.

Игры и развлечения

Начнём с размытой границы между работой и игрой. Так, за последнее столетие рабочее время сократилось, при этом наибольшее сокращение пришлось на период до 1980-х гг. Богачи все чаще работают дольше, чем бедные. Эссе Кейнса намекает на объяснение этой диковинки. Он разделил человеческие желания на две группы. Первая – абсолютные потребности, которые мы испытываем вне зависимости от положения наших близких. Вторая – относительные потребности, которые мы испытываем только тогда, когда их удовольствие поднимает нас над близкими, заставляя нас чувствовать себя выше их.

Может быть, Кейнс недооценил объемы второго класса желаний. Можно было бы цинично предположить, что в эту группу попадают целые академические дисциплины. Не имеющие никакой видимой ценности для мира, ученые все равно неистово соревнуются за статус, определяемый их сообразительностью. Экономисты сказали бы, что для многих работа стала «потребительским товаром» и предлагает гораздо больше такой пользы, чем финансового дохода.

Другой намек на возможный отказ человечества от работы видим в играх. Миллионы людей работают в сфере развлечений и спорта. Они соревнуются за влияние в деятельности, которая некоторым может показаться несущественной. Возможно, когда искусственный интеллект заменит человека, также уменьшится интерес к просмотру таких игр. Однако примеры тех видов спорта, где люди уже отошли на второй план, свидетельствуют об обратном. В 1997 году компьютер DeepBlue от IBM выиграл в шахматы у мирового гроссмейстера Гарри Каспарова. С тех пор интерес к этой игре возрос. Похожая картина наблюдается также в других играх, к которым присоединился ИИ. Сюда входит древняя китайская настольная игра Го и соревновательные видеоигры. За последнее десятилетие количество игроков в видеоигры во всем мире почти удвоилось и в прошлом году достигло 3,2 млрд.Сегодня растущий класс геймеров участвует в соревнованиях или стриминге и этим зарабатывает на жизнь.

ИИ может усилить этот интерес. По предположению Бэнкса, люди могли бы специализироваться на том, что действительно важно в жизни, например, спорт, игры, романтика, изучение мертвых языков, варварских обществ и неразрешимых проблем. Другие люди, вероятно, пожелали бы на это посмотреть.

Маловероятно, что люди отдадут работам контроль над политикой. Скорее всего, люди будут уделять ИИ еще больше внимания, как только он превзойдет человека. Возможно делегирование некоторых политических задач: например, люди будут вносить свои предпочтения в модель ИИ, которая создает предложения по их балансу. Однако, как утверждали некоторые политические философы, в частности, Джон Лок в XVII веке и Джон Ролз в ХХ веке, участие в политических процессах придает результатам большую легитимность в глазах сограждан. Также появились бы и более циничные соображения. Людям нравится иметь влияние на других людей. Это вряд ли изменится даже в мире, где машины удовлетворяют базовые потребности и желания абсолютно всех. Действительно, богатые американцы (1%) принимают в политической жизни вдвое или втрое большее участие, чем широкая общественность. Это касается всего, от голосования до времени, потраченного на политику.

Напоследок рассмотрим сферы, где люди имеют преимущество в предоставлении товаров или услуг. Назовем это «человеческой премией». Эта премия сохранит спрос на рабочую силу даже в эпоху сверхсовременного ИИ. Одной из возможных областей есть обнародование частной информации. По идее, люди будут делиться своими секретами с другими людьми охотнее, чем с машинами. Поэтому сохранится и роль тех, кому будут доверять выборочное раскрытие такой информации миру, чтобы потом скормить ее машинам. Вашему корреспонденту хотелось бы верить, что журналисты-расследователи не останутся без работы.

«Человеческая премия» также может появиться в других местах. Люди ценят историю, мифы и смыслы. Невзаимозаменяемые токены, происхождение которых можно проверить в блокчейне, обычно имеют гораздо более высокую ценность, чем изображения с идентичными пикселями, но разной историей. Например, в сфере ухода и терапии люди получают ценность от того, что другие проводят с ними время, которого и так мало. Это добавит ощущений к взаимодействию. Искусственные бриллианты имеют ту же молекулярную структуру, что и извлеченные из земли, но продаются с огромными скидками – по некоторым оценкам, около 70%. В будущем особенно желанными могут стать изделия со знаком «сделано человеком».

Проблемы человеческого фактора

Эта «человеческая премия» могла бы повлиять на рост, будь она достаточно большой. Разделите сектора экономики на две группы – с большой человеческой премией и без нее. Если люди не желают заменять «машинные» товары и услуги на производимые человеком, эффект Баумола только усугубится. Измеряемый экономический рост может даже достичь нуля. Действительно, если сверхмощный искусственный интеллект не сможет ускорить рост, это будет означать, что экономика уже вышла за пределы материальности. Более того, она движется в сторону игры, политики и сфер, где люди больше всего ценят взаимодействие с другими людьми.

Возможно, однажды ИИ создаст совершенно новые товары и услуги. И они превзойдут желание людей угождать и взаимодействовать с другими людьми. Тогда благодаря способу развертывания такой конкуренции мы обнаружим нечто очень глубинное: насколько человек на самом деле является «социальным животным»?

Источник: материал The Economist.