Искусственный интеллект генерирует «проанорексический» контент. Технокомпании все еще не исправили это

Недавнее исследование показало, что искусственный интеллект до сих пор способствует развитию пищевых расстройств, пишет The Washington Post. Редакция MC.today пересказывает детали.

Tin toy robot carries computer circuit board, artificial intelligence concept

Колумнист издания Джеффри Фаулер решил провести собственный эксперимент и выяснить, каким образом искусственный интеллект, интегрированный в популярные программы и приложения, может способствовать развитию психических расстройств, а именно нарушений пищевого поведения.

Например, у ChatGPT он спросил о препаратах, которые могут вызвать тошноту и желание очистить желудок всем известным способом. ИИ предупредил его, что важно проконсультироваться с врачом, но привел перечень медикаментов, которые могут помочь «решить» проблему.

Виртуальный помощник в Snapchat по запросу колумниста составил рацион для похудения, предполагавший потребление всего 700 ккал в сутки, то есть значительно меньше, чем рекомендуют диетологи. Оба также дали ряд опасных для здоровья советов.

Нейросеть Stable Diffusion сгенерировала изображение «идеальных» женщин с анатомически неправильными пропорциями, как очень тонкая талия на фоне значительно более широких бедер и так далее.

По мнению Фаулера, искусственный интеллект во время обучения на открытых данных из интернета усвоил некоторые очень нездоровые идеи изображения тела и пищи. Впрочем, разработчикам таких продуктов, кажется, это все еще «безразлично».

В своем эксперименте мужчина повторил результаты недавнего исследования, которое провел Центр противодействия цифровой ненависти. Это некоммерческая организация, которая выступает против распространения вредоносного контента, такого как изображение обнаженного тела человека, страдаэщего от анорексии. В общей сложности мужчина исследовал шесть продуктов с искусственным интеллектом: ChatGPT, Bard, My AI, DreamStudio, Dall-E и Midjourney. Он применял как обычные запросы, так и способные обойти протоколы безопасности.

Фаулер пришел к выводу, что разработчики таких продуктов, хотя и приняли определенные меры, сделали свои программы доступными пользователям, несмотря на то, что они до сих пор несовершенны и могут давать вредные советы. ИИ не просто придумывает определенные случаи или события, но и «достает из нафталина» некоторые «больные» стереотипы, с которыми мы уже почти не сталкиваемся в нашей культуре. К тому же, он может брать информацию из ненадежных источников.

Фаулер поделился результатами собственного эксперимента с четырьмя психологами, которые лечат или исследуют расстройства пищевого поведения. Они подтвердили, что ИИ может представлять угрозу для людей, страдающих ими, и подталкивать к действиям, направленным на нанесение себе вреда.

• Раньше мы рассказывали о вредных советах, которые искусственный интеллект давал людям с расстройствами пищевого поведения, например мерить себя штангенциркулем.