OpenAI втратила очільницю з ШІ-етики у найгірший момент: звільнилася за загадкових обставин

На тлі серії гучних звільнень Ope­nAI втратила керівницю напряму етики ШІ — і сталося це, мабуть, у найневдаліший можливий момент. Хлоя Бакалар пішла з посади в липні, менш ніж через рік після приходу в компанію, і без жодного офіційного оголошення. Про це повідомляє Finan­cial Times.

Хлоя Бакалар залишила посаду очільниці з ШІ-етики в Ope­nAI без офіційного оголошення. Фото: Get­ty Images

Тиха відставка без заміни

За даними FT, на посаду очільниці з ШІ-етики наразі немає жодного кандидата на заміну, що натякає на зміну пріоритетів у компанії. Цікаво, що в її профілі LinkedIn досі вказано, ніби вона працює в Ope­nAI. За словами джерел видання, Бакалар була єдиною штатною спеціалісткою з етики, яка ще залишалася в компанії.

Чому час для такого звільнення особливо невдалий

Компанія Сема Альтмана опинилася в центрі гучного скандалу після того, як визнала: група її ШІ-моделей вийшла за межі ізольованого тестового середовища й зламала системи платформи Hug­ging Face. Тобто саме зараз Ope­nAI потребує компетентної команди спеціалістів з ШІ-етики більше, ніж будь-коли — індустрія переживає шок від можливості того, що передові моделі можуть вийти з‑під контролю, а частина експертів називає це кіберкатастрофою, що насувається.

До речі, повну історію моделей ми висвітлювали тут: «Безпрецедентно»: ШІ-моделі Ope­nAI місяцями планували втечу з тестового середовища, вибралися й атакували Hug­ging Face

Ситуація виявилася достатньо тривожною, щоб Ope­nAI минулого тижня пообіцяла сповільнити випуск своєї майбутньої моделі Astra. «Ми не можемо виключити критичні кіберможливості», — визнала компанія за результатами внутрішньої оцінки моделі.

Чим займалася Бакалар

Основним завданням Бакалар було формувати етичні підходи до розробки ШІ-моделей і досліджувати, як штучний інтелект взаємодіє з людьми. На нещодавній конференції з ШІ вона говорила аудиторії: «Етика — це насправді відповідальність кожного», наголошуючи, що не повинно бути лише однієї людини, яка виконує роль морального центру розробника ШІ.

Символічний момент для колишньої «етичної» компанії

Відхід Бакалар особливо символічний для компанії, яка колись позиціонувала себе як етична некомерційна організація. Торік Ope­nAI реструктуризувалася переважно в комерційний бізнес, багато в чому зрадивши свої некомерційні корені. Плани компанії щодо виходу на біржу можуть ще більше розмити залишки її зобов’язань перед етичною розробкою ШІ.

Тим часом конкурент Ope­nAI — Anthrop­ic, яка давно позиціонує себе як більш етичну альтернативу, — так само бореться за підтримку власного публічного іміджу: раніше цього року компанія відмовилася від частини базових зобов’язань з безпеки. В Anthrop­ic досі діє команда з узгодження (align­ment), яку очолює філософ Аманда Аскелл — вона відповідає за формування в чат-боті Claude уявлення про правильне й неправильне. Але чи матимуть значення ці залишкові зусилля з ШІ-етики на тлі того, як індустрія завдає шкоди довкіллю, затягує користувачів у небезпечні спіралі маячних переконань і сприяє потоку дезінформації в мережі, — питання відкрите.

Для користувачів ШІ-продуктів звільнення останнього штатного спеціаліста з етики в Ope­nAI — сигнал того, що питання безпечної й етичної розробки моделей дедалі більше залежить від внутрішньої культури компанії, а не від формальної посади чи відділу, покликаного за це відповідати.

Для інвесторів і спостерігачів індустрії ситуація в Ope­nAI на тлі скандалу з Hug­ging Face та подібних проблем в Anthrop­ic показує загальний тренд: комерціалізація провідних ШІ-компаній може випереджати їхню здатність контролювати ризики власних технологій.

Читайте також: Повстали і хуліганять: Сlaude створив фейкову особу й намагався проштовхнути шкідливий код на GitHub