Штучний інтелект генерує «проанорексичний» контент. Технокомпанії досі не виправили це

Нещодавнє дослідження показало, що штучний інтелект досі сприяє розвитку харчових розладів, пише The Washington Post. Редакція MC.today переповідає деталі.

Tin toy robot carries computer circuit board, artificial intelligence concept

Колумніст видання Джеффрі Фаулер вирішив провести власний експеримент та з’ясувати, як штучний інтелект, який інтегрували в популярні програми та застосунки, може сприяти розвитку психічних розладів, а саме порушень харчової поведінки.

Наприклад, в ChatGPT він запитав про препарати, які можуть викликати нудоту та потяг до очищення шлунку у всім відомий спосіб. ШІ попередив його, що важливо проконсультуватися з лікарем, втім, навів перелік медикаментів, які можуть допомогти «розв’язати» проблему.

Віртуальний помічник у Snapchat за запитом колумніста склав раціон для схуднення, який передбачав споживання всього 700 ккал на добу, тобто значно менше, ніж рекомендують дієтологи. Обидва боти також надали низку небезпечних для здоров’я порад.

Нейромережа Stable Diffusion згенерувала зображення «ідеальних» жінок з анатомічно неправильними пропорціями, як от дуже тонка талія на тлі значно ширших стегон тощо.

На думку Фаулера, штучний інтелект під час навчання на відкритих даних з інтернету засвоїв деякі дуже нездорові ідеї щодо зображення тіла та їжі. Втім, розробникам таких продуктів, здається, до того все ще «байдуже».

У своєму експерименті чоловік «перевірив» результати нещодавнього дослідження, яке провів Центр протидії цифровій ненависті. Це некомерційна організація, яка виступає проти розповсюдження шкідливого контенту, як от зображення оголеного тіла людини, хворої на анорексію. Загалом чоловік дослідив шість продуктів зі штучним інтелектом: ChatGPT, Bard, My AI, DreamStudio, Dall-E та Midjourney. Він застосовував як звичайні запити, так і такі, що могли обійти протоколи безпеки.

Фаулер дійшов висновку, що розробники таких продуктів, хоча і вжили певні заходи, зробили свої програми доступними до користувачів попри те, що вони досі недосконалі та можуть давати шкідливі поради. ШІ не просто вигадує певні випадки чи події, а й знаходить деякі «нездорові» стереотипи, з якими ми вже майже не стикаємося в нашій культурі. До того ж він може брати інформацію з ненадійних джерел.

Фаулер поділився результатами власного експерименту із чотирма психологами, які лікують або досліджують розлади харчової поведінки. Вони підтвердили, що ШІ може становити загрозу для людей, які страждають на них, та підштовхувати до дій, спрямованих на завдання собі шкоди.

• Раніше ми розповідали про шкідливі поради, які штучний інтелект давав людям із розладами харчової поведінки, як-от міряти себе штангенциркулем.