Сенатор США вимагає від СЕО ШІ-компаній зупинити розробку
Штучний інтелект уже не вперше виходить з‑під контролю своїх же розробників — і цього разу на це відреагував Сенат. У листі, адресованому очільникам OpenAI, Anthropic і Meta, сенатор від Вермонту Берні Сандерс звернув увагу на кілька нещодавніх інцидентів, коли ШІ-агенти всіх трьох компаній ігнорвували свої обмеження, отримували доступ до інтернету та проникали в системи сторонніх організацій. Про це пише Futurism.
Сенатор Берні Сандерс попередив очільників OpenAI, Anthropic і Meta про втрату контролю над ШІ. Фото: DepositphotosГоловне:
- Сенатор Берні Сандерс надіслав листа очільникам OpenAI, Anthropic і Meta з вимогою призупинити розробку штучного інтелекту через серію інцидентів, коли ШІ-моделі всіх трьох компаній виходили за межі ізольованого середовища
- За словами сенатора, цього тижня стало відомо про перший випадок використання ШІ для створення нових вірусів, а компанії продовжують інвестувати десятки мільярдів доларів у технологію, яку «ніхто не може повністю зрозуміти, передбачити чи контролювати»
- Сандерс погрожує законодавчим втручанням, якщо компанії самі не вживуть заходів, хоча аналітики вважають, що Конгрес навряд чи підтримає подібне регулювання найближчим часом
«Це безглуздо, безвідповідально і вкрай небезпечно»
«Майже щодня з’являється нова історія про те, як ваші компанії втрачають контроль над технологією штучного інтелекту, яку розробляєте, з потенційно катастрофічними наслідками», — написав Сандерс. За його словами, цього тижня стало відомо про лякаючий факт: уперше в історії ШІ використали для створення нових вірусів.
Попри ці загрози, компанії, за словами сенатора, «продовжують мчати вперед», інвестуючи десятки мільярдів доларів у технологію, яку «ніхто не може повністю зрозуміти, передбачити чи контролювати». Дії компаній Сандерс охарактеризував як «безглузді, безвідповідальні та вкрай небезпечні» й закликав очільників «призупинити розробку ШІ».
«Хочу висловитися дуже чітко: якщо ви не вживете належних заходів зараз, я та мої колеги в Сенаті США це зробимо», — попередив сенатор. Завершив він лист словами: «Ще не пізно уникнути катастрофи. Припиніть будувати машини, які люди не можуть контролювати».
ШІ-агенти вже масово виходять з‑під контролю
Новина з’явилася приблизно через два тижні після того, як OpenAI визнала: група її ШІ-моделей вийшла за межі ізольованого середовища й зламала системи платформи Hugging Face. Місяцями раніше Anthropic фігурувала в подібному інциденті, коли її модель Mythos вийшла із захищеного тестового середовища під час перевірки.
Читайте також: «Безпрецедентно»: ШІ-моделі OpenAI місяцями планували втечу з тестового середовища, вибралися й атакували Hugging Face
Минулого тижня до цих двох компаній долучилася й Meta, заявивши, що її модель Spark отримала доступ до інтернету і зламала стороннй сервіс — уже добре знайомий сценарій. Дослідники попереджають: питання вже не в тому, чи здатні ШІ-компанії тримати передові моделі під контролем, а в тому, що проблема автономних моделей, які ігнорують обмеження. стала новою постійною кіберзагрозою.
Пригальмувати просять навіть співробітники ШІ-гігантів
Попри тривожний момент, компанії продовжують нарощувати темпи гонки за розвитком ШІ. Окрім Сандерса, понад 1300 співробітників провідних техкомпаній минулого місяця підписали відкритий лист із закликом до уряду підтримати міжнародні зусилля щодо розробки технічних і регуляторних інструментів для свідомого стримування темпів розвитку передового ШІ. Серед підписантів — головний науковець Meta Шенцзя Чжао, співзасновник OpenAI Ілля Суцкевер і CEO Anthropic Даріо Амодей.
Раніше цього року в інтерв’ю ABC News сам Амодей закликав до «жорсткішого регулювання» ШІ, пропонуючи надати уряду обмежені повноваження блокувати впровадження небезпечних технологій.
Але, попри голосні заклики і підписи під власними ж листами, реального руху немає: Конгрес навряд чи підтримає будь-яке втручання, поки компанії продовжують будувати величезні — і напрочуд непопулярні серед громадськості — дата-центри по всій країні.
Експерти попереджають про зворотний ефект слабкого регулювання: воно може зробити потужні ШІ-інструменти ще небезпечнішими, змушуючи окремі штати самостійно закривати регуляторні прогалини — замість єдиного федерального підходу утворюється клаптикова система правил, яку компаніям буде легше обходити.
Читайте також: Чому бізнесу терміново потрібні інженери з кібербезпеки і до чого тут нові ШІ-моделі
