ШІ-етика – останні статті та новини

На тлі серії гучних звільнень OpenAI втратила керівницю напряму етики ШІ — і сталося це, мабуть, у найневдаліший можливий момент. Хлоя Бакалар пішла з посади в липні, менш ніж через рік після приходу в компанію, і без жодного офіційного оголошення. Про це повідомляє Financial Times. Тиха відставка без заміни За даними FT, на посаду очільниці з ШІ-етики наразі немає жодного кандидата на заміну, що натякає на зміну пріоритетів у компанії. Цікаво, що в її профілі LinkedIn досі вказано, ніби вона працює в OpenAI. За словами джерел видання, Бакалар була єдиною штатною спеціалісткою з етики, яка ще залишалася в компанії. Чому час для такого звільнення особливо невдалий Компанія Сема Альтмана опинилася в центрі гучного скандалу після того, як визнала: група її ШІ-моделей вийшла за межі ізольованого тестового середовища й зламала системи платформи Hugging Face. Тобто саме зараз OpenAI потребує компетентної команди спеціалістів з ШІ-етики більше, ніж будь-коли — індустрія переживає шок від можливості того, що передові моделі можуть вийти з-під контролю, а частина експертів називає це кіберкатастрофою, що насувається. До речі, повну історію моделей ми висвітлювали тут: «Безпрецедентно»: ШІ-моделі OpenAI місяцями планували втечу з тестового середовища, вибралися й атакували Hugging Face Ситуація виявилася достатньо тривожною, щоб OpenAI минулого тижня пообіцяла сповільнити випуск своєї майбутньої моделі Astra. «Ми не можемо виключити критичні кіберможливості», — визнала компанія за результатами внутрішньої оцінки моделі. Чим займалася Бакалар Основним завданням Бакалар було формувати етичні підходи до розробки ШІ-моделей і досліджувати, як штучний інтелект взаємодіє з людьми. На нещодавній конференції з ШІ вона говорила аудиторії: «Етика — це насправді відповідальність кожного», наголошуючи, що не повинно бути лише однієї людини, яка виконує роль морального центру розробника ШІ. Символічний момент для колишньої «етичної» компанії Відхід Бакалар особливо символічний для компанії, яка колись позиціонувала себе як етична некомерційна організація. Торік OpenAI реструктуризувалася переважно в комерційний бізнес, багато в чому зрадивши свої некомерційні корені. Плани компанії щодо виходу на біржу можуть ще більше розмити залишки її зобов'язань перед етичною розробкою ШІ. Тим часом конкурент OpenAI — Anthropic, яка давно позиціонує себе як більш етичну альтернативу, — так само бореться за підтримку власного публічного іміджу: раніше цього року компанія відмовилася від частини базових зобов'язань з безпеки. В Anthropic досі діє команда з узгодження (alignment), яку очолює філософ Аманда Аскелл — вона відповідає за формування в чат-боті Claude уявлення про правильне й неправильне. Але чи матимуть значення ці залишкові зусилля з ШІ-етики на тлі того, як індустрія завдає шкоди довкіллю, затягує користувачів у небезпечні спіралі маячних переконань і сприяє потоку дезінформації в мережі, — питання відкрите. Для користувачів ШІ-продуктів звільнення останнього штатного спеціаліста з етики в OpenAI — сигнал того, що питання безпечної й етичної розробки моделей дедалі більше залежить від внутрішньої культури компанії, а не від формальної посади чи відділу, покликаного за це відповідати. Для інвесторів і спостерігачів індустрії ситуація в OpenAI на тлі скандалу з Hugging Face та подібних проблем в Anthropic показує загальний тренд: комерціалізація провідних ШІ-компаній може випереджати їхню здатність контролювати ризики власних технологій. Читайте також: Повстали і хуліганять: Сlaude створив фейкову особу й намагався проштовхнути шкідливий код на GitHub