Ілон Маск, Стів Возняк та ще понад 1100 техноекспертів закликали призупинити розробку штучного інтелекту

Понад 1100 техномагнатів та дослідників штучного інтелекту підписали відкритий лист із закликом до введення шестимісячного мораторію на навчання передового штучного інтелекту. До ініціативи долучилися, зокрема, серійний бізнесмен Ілон Маск та співзасновник компанії Apple Стів Возняк. Редакція MC.today переказує подробиці з посиланням на Fortune.

Elon Musk, Steve Wozniak, collage

Вони закликають технологічні компанії негайно припинити навчання будь-яких продуктів на основі штучного інтелекту, які потенційно можуть стати потужнішими за найновітнішу на цей час мовну модель GPT-4 від компанії OpenAI. Передбачається, що мораторій на розробку може тривати щонайменше пів року. Проте цікаво, що в листі не зазначили, як саме вимірюється «потужність» штучного інтелекту. Можна припустити, що вона залежить від розміру моделі та кількості необхідних для її навчання спеціалізованих комп’ютерних мікросхем.

Експерти закликали призупинити розробку до того моменту, коли вони впевняться в позитивних результатах розвитку генеративного ШІ та в тому, що зможуть керувати наслідками цього процесу. У листі йдеться про те, що системи на кшталт GPT-4 можуть створювати велику кількість фейків, тобто генерувати та розповсюджувати дезінформацію. Автори звернення також підкреслили що такі технології можуть неконтрольовано розвинутися до так званого стану «суперінтелекту», а це становитиме загрозу всьому людству.

Втім, вони також зазначили, що покращувати продукти на основі ШІ, які вже існують, можна. Йдеться про те, що розробникам варто робити їх більш точними, безпечними, доступними, прозорими, надійними та лояльними тощо. Також упродовж терміну дії мораторію експерти хочуть розробити набір спільних протоколів безпеки в галузі штучного інтелекту. Від урядів очікують створення нормативної бази, яка б контролювала розробку передового ШІ.

Ілон Маск, який свого часу співзаснував компанію OpenAI як некомерційну дослідницьку лабораторію, не раз відверто говорив та писав про свою стурбованість щодо того, що розробники не контролюють штучний інтелект. Крім нього та Стіва Возняка лист підписали такі відомі особистості, як засновник Stability AI (розробник нейромережі Stable Diffusion) Емад Мостак, гендиректор ШІ-лабораторії Conjecture Коннор Ліхі, співзасновник Pinterest Еван Шарп, очільник криптовалютної компанії Ripple Кріс Ларсон, піонер глибокого навчання та лауреат премії Тюрінга Йошуа Бенгіо та інші.

• Пропонуємо вам почитати про історію створення ChatGPT та яку роль у цьому зіграв Ілон Маск. Нагадаємо, мільярдер нещодавно розкритикував текст для твіта, який для привернення його уваги написав штучний інтелект.