Мы будем жить с существом, намного умнее нас. Человечество на пороге создания искусственного суперинтеллекта

Искусственный интеллект может привести к вымиранию человечества, предупреждают некоторые эксперты, в частности руководители OpenAI и Google X. Но как? О жутких (и не очень) перспективах развития технологий рассказываем со ссылкой на ВВС.

3d rendering cyborg starring at human skull

С момента запуска в ноябре 2022 года ChatGPT стал интернет-программой с самыми быстрыми темпами роста в истории. Всего за два месяца у него было 100 миллионов активных пользователей. По данным компании по мониторингу технологий Sensor Town, чтобы добиться таких показателей, Instagram потребовалось два с половиной года.

Огромная популярность ChatGPT повлекла за собой дебаты о влиянии искусственного интеллекта на будущее человечества.

Десятки экспертов поддержали заявление, опубликованное на веб-странице Центра безопасности искусственного интеллекта, в котором говорится: «Уменьшение риска вымирания (человечества – ред.) от искусственного интеллекта должно быть глобальным приоритетом наряду с другими рисками общественного масштаба, такими как пандемии и ядерная война».

В то же время другие говорят, что эти страхи преувеличены.

ИИ сегодня

Тексты (от эссе, стихов и шуток до компьютерного кода), изображения, инфографику, созданные инструментами ИИ, такими как ChatGPT, DALL-E, Bard и AlphaCode, иногда невозможно или почти невозможно отличить от работы человека.

С их помощью студенты делают домашние задания, а политики пишут речи: представитель Демократической партии Джейк Окинклос произнес написанную ИИ речь в Конгрессе США.

Технический гигант IBM заявляет, что перестанет нанимать людей на 7800 вакансий, потому что их заменит искусственный интеллект.

Если все эти изменения вас поражают – будьте готовы, что это только начало.

Мы только на первой стадии ИИ и впереди еще две, которые, по мнению некоторых ученых, могут угрожать самому выживанию человечества.

Так что это за три стадии?

Искусственный узкий интеллект (ИУИ)

Искусственный узкий интеллект (ИУИ) – также известный как узкий ИИ – сосредотачивается на одной задаче и выполняет повторяющуюся работу в пределах заданного диапазона функций.

Обычно он изучает множество данных, например из интернета, но только в определенной области, на которую его запрограммировали.

Примером могут служить шахматные программы, способные победить чемпиона мира, но не способные выполнять другие задачи.

В смартфонах есть множество приложений, которые используют эту технологию, например GPS-карты.

Искусственный общий интеллект (ИОИ)

Искусственный общий интеллект станет реальностью, когда машина сможет выполнять любую интеллектуальную задачу, которую может выполнять человек. Он также известен как «сильный ИИ».

В марте 2023 более 1 тыс. технологических экспертов призвали «все лаборатории искусственного интеллекта немедленно приостановить по крайней мере на 6 месяцев обучение систем искусственного интеллекта более мощных, чем GPT-4».

Письмо подписала и Карисса Уэлиз из Института этики ИИ Оксфордского университета. Но она считает, что более позднее заявление Центра безопасности ИИ, которое предупреждает о вымирании человечества, заходит слишком далеко, поэтому его она решила не подписывать.

«Искусственный интеллект, который мы сейчас создаем, столь же глуп, сколь и умен. Если кто-то попробует ChatGPT или другой ИИ, он заметит, что у них очень, очень важные ограничения», – говорит она.

Уэлиз добавляет, что ее волнует то, что ИИ может с огромной скоростью фабриковать дезинформацию.

Правительство США признает потенциальные угрозы. Конгресс США вызвал генерального директора OpenAI Сэма Альтмана, чтобы задать ему вопрос о ChatGPT. Во время слушаний в Сенате Альтман сказал, что чрезвычайно важно, чтобы его отрасль была регулирована правительством, поскольку искусственный интеллект становится все более мощным.

Карлос Игнасио Гутьеррес, исследователь государственной политики в Институте будущей жизни, объяснил журналистам, что одной из больших проблем, которые ставит искусственный интеллект, является то, что «нет коллегиального органа экспертов, которые решали бы, как его регулировать».

Это подводит нас к третьей и последней стадии ИИ.

Искусственный суперинтеллект (ИС)

Согласно этой теории, когда мы достигнем второй стадии, мы катапультируемся на завершающую стадию: искусственный суперинтеллект (ИС). Это произойдет, когда искусственный интеллект будет выше человеческого.

Философ Оксфордского университета и эксперт по искусственному интеллекту Ник Бостром определяет суперинтеллект как интеллект, «значительно превосходящий лучший человеческий мозг практически во всех сферах, включая научное творчество, общий ум и социальные навыки».

«Люди, которые становятся инженерами, медсестрами или юристами, должны учиться в течение длительного времени. Проблема с ИС заключается в том, что… он может постоянно совершенствоваться в то время, когда мы не можем», – объясняет Гутьеррес.

Эта концепция напоминает сюжет фильма Терминатор, в котором машины начинают ядерную войну, чтобы уничтожить человечество.

Компьютерный ученый из Принстонского университета Арвинд Нараянан говорил, что сценарии катастроф, похожие на научно-фантастические, нереалистичны: «Нынешний искусственный интеллект и близко не способен реализовать эти риски. Как следствие, это отвлекает внимание от краткосрочного ущерба искусственному интеллекту».

А вот так называемый «крестный отец искусственного интеллекта» Джеффри Хинтон, пионер в обучении машин, предупредил, что мы все же можем вот-вот встретить этот сценарий.

Также он добавил, что теперь сожалеет о проделанной работе, поскольку опасается, что «плохие парни» будут использовать искусственный интеллект для «плохих поступков».

Он привел пример «кошмарного сценария»: «Представьте, например, что какой-то злодей как путин решил дать работам возможность создавать собственные промежуточные цели».

В конце концов, машины могут создать промежуточные цели вроде: «Мне нужно получить больше власти», что создаст «экзистенциальный риск», предупредил он.

Об опасности предупреждал даже Стивен Хокинг

Британский физик и один из самых известных гениев современности Стивен Хокинг дал суровое предупреждение для будущих поколений.

«Развитие полноценного искусственного интеллекта может означать конец человеческой расы», – сказал он в 2014 году, за четыре года до своей смерти.

По его словам, машина с таким уровнем интеллекта могла бы действовать самостоятельно и перепроектировать себя.

Другая сторона медали

Одним из самых больших энтузиастов искусственного интеллекта является футуролог-изобретатель и писатель Рэй Курцвейл, исследователь искусственного интеллекта в Google и соучредитель Университета сингулярности Кремниевой долины.

Курцвейл верит, что люди смогут использовать суперинтеллект для преодоления биологических барьеров.

В 2015 году он предположил, что к 2030 году люди смогут достичь бессмертия благодаря наноботам (чрезвычайно маленьким роботам), которые могли бы исправлять любые повреждения и лечить болезни внутри нашего тела.

Гутьеррес соглашается, что ключевым является создание системы управления ИИ.

«Представьте себе будущее, где определенная сущность имеет столько информации о каждом человеке на планете и его привычках [благодаря поискам в интернете], что может контролировать нас способами, которых мы даже не осознаем. Худший сценарий состоит не в том, что возникнут войны между людьми и работами. Хуже всего то, что мы не осознаем, что нами манипулируют, потому что мы живем на планете с существом, которое намного умнее нас».