Илон Маск, Стив Возняк и еще более 1100 техноэкспертов призвали приостановить разработку искусственного интеллекта

Более 1100 техномагнатов и исследователей искусственного интеллекта подписали открытое письмо с призывом к введению шестимесячного моратория на обучение передового искусственного интеллекта. К инициативе присоединились серийный бизнесмен Илон Маск и соучредитель компании Apple Стив Возняк. Редакция MC.today пересказывает подробности со ссылкой на Fortune.

Elon Musk, Steve Wozniak, collage

Они призывают технологические компании прекратить обучение любых продуктов на основе искусственного интеллекта, которые потенциально могут стать мощнее языковой модели GPT-4 от компании OpenAI. Предполагается, что мораторий на разработку может длиться не менее полугода. Интересно, что в письме не указали, как именно определяется «мощность» искусственного интеллекта. Можно предположить, что она зависит от размера модели и количества необходимых для ее обучения специализированных компьютерных микросхем.

Эксперты призвали приостановить разработку до того момента, когда они убедятся в положительных результатах развития генеративного ИИ и в том, что смогут управлять последствиями этого процесса. В письме говорится, что системы вроде GPT-4 могут создавать большое количество фейков, то есть генерировать и распространять дезинформацию. Авторы обращения также подчеркнули, что они могут неконтролируемо развиться до так называемого состояния «суперинтеллекта», а это представляет угрозу для всего человечества.

Впрочем, они также отметили, что развивать и дорабатывать уже существующие продукты на основе ИИ можно. Речь идет о том, что разработчикам следует делать их более точными, безопасными, доступными, прозрачными, надежными и лояльными. Также за время действия моратория эксперты хотят разработать набор общих протоколов безопасности в отрасли искусственного интеллекта. От правительства ожидают создание нормативной базы, которая контролировала бы разработку передового ИИ.

Илон Маск, который в свое время соучредил компанию OpenAI как некоммерческую исследовательскую лабораторию, не раз открыто говорил и писал о своей обеспокоенности тем, что разработчики не контролируют искусственный интеллект. Кроме него и Стива Возняка письмо подписали такие известные личности, как основатель Stability AI (разработчик нейросети Stable Diffusion) Эмад Мостак, гендиректор ИИ-лаборатории Conjecture Коннор Лихи, соучредитель Pinterest Эван Шарп, руководитель криптовалютной компании Ripple Крис Ларр, лауреат премии Тюринга и компьютерный эксперт Йошуа Бенгио и другие.

• Предлагаем вам почитать историю создания ChatGPT и какую роль в этом сыграл Илон Маск. Напомним, миллиардер недавно раскритиковал текст для твита, который для привлечения его внимания написал искусственный интеллект.