Как пандемия и ядерная война. Исследователи снова заявили об опасности ИИ для человечества

Группа ведущих исследователей искусственного интеллекта, инженеров и генеральных директоров выпустила новое предупреждение об угрозе, которую, по их мнению, составляет для человечества ИИ. Об этом пишет The Verge.

Заявление состоит всего из 22 слов. Его сократили, чтобы сделать как можно более приемлемым и понятным.

«Уменьшение риска исчезновения из-за ИИ должно быть глобальным приоритетом наряду с другими рисками общественного масштаба, такими как пандемии и ядерная война», – говорится в заявлении.

Его подписали такие люди, как генеральный директор Google DeepMind Демис Хассабис и генеральный директор OpenAI Сэм Альтман, а также Джеффри Хинтон и Йошуа Бенжио – двое исследователей, получивших премию Тюринга 2018 года (иногда ее называют «Нобелевской премией по вычислительной технике») за работу над ИИ.

Исполнительный директор Центра безопасности искусственного интеллекта Дэн Хендрикс сказал, что краткость заявления, даже не предложившего решение проблемы, имеет цель избежать разногласий. «Мы не хотели настаивать на слишком большом меню с 30 потенциальными опциями», – сказал Хендрикс. «Когда так происходит, это размывает сообщение».

Он описал это заявление как «выход» для представителей отрасли, озабоченных риском развития ИИ.

Это заявление не единственное громкое высказывание об опасности ИИ. Ранее в этом году открытое письмо, подписанное более чем тысячей человек, призвало к шестимесячной «паузе» в разработке ИИ. Тогда его подвергли критике. Одни считали, что риски, указанные в тексте, слишком преувеличены, а другие соглашались с письмом, но не разделяли методы, предложенные в нем.

Беспокойство по поводу последствий развития ИИ выражали также соучредитель Apple Стив Возняк, миллиардер Уоррен Баффет, экс-гендиректор Google и бывший топ-менеджер Google X.