3d rendering cyborg starring at human skull
Искусственный интеллект может привести к вымиранию человечества, предупреждают некоторые эксперты, в частности руководители OpenAI и Google X. Но как? О жутких (и не очень) перспективах развития технологий рассказываем со ссылкой на ВВС.
С момента запуска в ноябре 2022 года ChatGPT стал интернет-программой с самыми быстрыми темпами роста в истории. Всего за два месяца у него было 100 миллионов активных пользователей. По данным компании по мониторингу технологий Sensor Town, чтобы добиться таких показателей, Instagram потребовалось два с половиной года.
Огромная популярность ChatGPT повлекла за собой дебаты о влиянии искусственного интеллекта на будущее человечества.
Десятки экспертов поддержали заявление, опубликованное на веб-странице Центра безопасности искусственного интеллекта, в котором говорится: «Уменьшение риска вымирания (человечества – ред.) от искусственного интеллекта должно быть глобальным приоритетом наряду с другими рисками общественного масштаба, такими как пандемии и ядерная война».
В то же время другие говорят, что эти страхи преувеличены.
Тексты (от эссе, стихов и шуток до компьютерного кода), изображения, инфографику, созданные инструментами ИИ, такими как ChatGPT, DALL-E, Bard и AlphaCode, иногда невозможно или почти невозможно отличить от работы человека.
С их помощью студенты делают домашние задания, а политики пишут речи: представитель Демократической партии Джейк Окинклос произнес написанную ИИ речь в Конгрессе США.
Технический гигант IBM заявляет, что перестанет нанимать людей на 7800 вакансий, потому что их заменит искусственный интеллект.
Если все эти изменения вас поражают – будьте готовы, что это только начало.
Мы только на первой стадии ИИ и впереди еще две, которые, по мнению некоторых ученых, могут угрожать самому выживанию человечества.
Искусственный узкий интеллект (ИУИ) – также известный как узкий ИИ – сосредотачивается на одной задаче и выполняет повторяющуюся работу в пределах заданного диапазона функций.
Обычно он изучает множество данных, например из интернета, но только в определенной области, на которую его запрограммировали.
Примером могут служить шахматные программы, способные победить чемпиона мира, но не способные выполнять другие задачи.
В смартфонах есть множество приложений, которые используют эту технологию, например GPS-карты.
Искусственный общий интеллект станет реальностью, когда машина сможет выполнять любую интеллектуальную задачу, которую может выполнять человек. Он также известен как «сильный ИИ».
В марте 2023 более 1 тыс. технологических экспертов призвали «все лаборатории искусственного интеллекта немедленно приостановить по крайней мере на 6 месяцев обучение систем искусственного интеллекта более мощных, чем GPT-4».
Письмо подписала и Карисса Уэлиз из Института этики ИИ Оксфордского университета. Но она считает, что более позднее заявление Центра безопасности ИИ, которое предупреждает о вымирании человечества, заходит слишком далеко, поэтому его она решила не подписывать.
«Искусственный интеллект, который мы сейчас создаем, столь же глуп, сколь и умен. Если кто-то попробует ChatGPT или другой ИИ, он заметит, что у них очень, очень важные ограничения», – говорит она.
Уэлиз добавляет, что ее волнует то, что ИИ может с огромной скоростью фабриковать дезинформацию.
Правительство США признает потенциальные угрозы. Конгресс США вызвал генерального директора OpenAI Сэма Альтмана, чтобы задать ему вопрос о ChatGPT. Во время слушаний в Сенате Альтман сказал, что чрезвычайно важно, чтобы его отрасль была регулирована правительством, поскольку искусственный интеллект становится все более мощным.
Карлос Игнасио Гутьеррес, исследователь государственной политики в Институте будущей жизни, объяснил журналистам, что одной из больших проблем, которые ставит искусственный интеллект, является то, что «нет коллегиального органа экспертов, которые решали бы, как его регулировать».
Это подводит нас к третьей и последней стадии ИИ.
Согласно этой теории, когда мы достигнем второй стадии, мы катапультируемся на завершающую стадию: искусственный суперинтеллект (ИС). Это произойдет, когда искусственный интеллект будет выше человеческого.
Философ Оксфордского университета и эксперт по искусственному интеллекту Ник Бостром определяет суперинтеллект как интеллект, «значительно превосходящий лучший человеческий мозг практически во всех сферах, включая научное творчество, общий ум и социальные навыки».
«Люди, которые становятся инженерами, медсестрами или юристами, должны учиться в течение длительного времени. Проблема с ИС заключается в том, что… он может постоянно совершенствоваться в то время, когда мы не можем», – объясняет Гутьеррес.
Эта концепция напоминает сюжет фильма Терминатор, в котором машины начинают ядерную войну, чтобы уничтожить человечество.
Компьютерный ученый из Принстонского университета Арвинд Нараянан говорил, что сценарии катастроф, похожие на научно-фантастические, нереалистичны: «Нынешний искусственный интеллект и близко не способен реализовать эти риски. Как следствие, это отвлекает внимание от краткосрочного ущерба искусственному интеллекту».
А вот так называемый «крестный отец искусственного интеллекта» Джеффри Хинтон, пионер в обучении машин, предупредил, что мы все же можем вот-вот встретить этот сценарий.
Также он добавил, что теперь сожалеет о проделанной работе, поскольку опасается, что «плохие парни» будут использовать искусственный интеллект для «плохих поступков».
Он привел пример «кошмарного сценария»: «Представьте, например, что какой-то злодей как путин решил дать работам возможность создавать собственные промежуточные цели».
В конце концов, машины могут создать промежуточные цели вроде: «Мне нужно получить больше власти», что создаст «экзистенциальный риск», предупредил он.
Британский физик и один из самых известных гениев современности Стивен Хокинг дал суровое предупреждение для будущих поколений.
«Развитие полноценного искусственного интеллекта может означать конец человеческой расы», – сказал он в 2014 году, за четыре года до своей смерти.
По его словам, машина с таким уровнем интеллекта могла бы действовать самостоятельно и перепроектировать себя.
Одним из самых больших энтузиастов искусственного интеллекта является футуролог-изобретатель и писатель Рэй Курцвейл, исследователь искусственного интеллекта в Google и соучредитель Университета сингулярности Кремниевой долины.
Курцвейл верит, что люди смогут использовать суперинтеллект для преодоления биологических барьеров.
В 2015 году он предположил, что к 2030 году люди смогут достичь бессмертия благодаря наноботам (чрезвычайно маленьким роботам), которые могли бы исправлять любые повреждения и лечить болезни внутри нашего тела.
Гутьеррес соглашается, что ключевым является создание системы управления ИИ.
«Представьте себе будущее, где определенная сущность имеет столько информации о каждом человеке на планете и его привычках [благодаря поискам в интернете], что может контролировать нас способами, которых мы даже не осознаем. Худший сценарий состоит не в том, что возникнут войны между людьми и работами. Хуже всего то, что мы не осознаем, что нами манипулируют, потому что мы живем на планете с существом, которое намного умнее нас».
Power BI (Business Intelligence) Microsoft – это не просто платформа для анализа данных, а ключевой…
Лас-Вегас — один из самых узнаваемых городов на планете, который ежегодно манит к себе миллионы…
Из-за широкомасштабного вторжения россии в Украине было введено военное положение и объявлена мобилизация. Военнообязанным мужчинам…
«Вижу цель – не вижу препятствий». Знакомая фраза? Часто ею руководствуются кандидаты, ищущие работу мечты.…
Национальный банк Украины работает над открытым банкингом. Речь идет о структурированном и безопасном обмене данными…
В США финансовому консультанту предъявили обвинение в растрате около $5 млн, которые принадлежали его клиенту.…