«Вы знаете, что делать, ребята». Разработчики создали сексистский ИИ-сайт

Команда энтузиастов искусственного интеллекта под руководством разработчика Эммета Халма недавно запустила сайт smashorpass.ai, ориентированный на мужчин. Пользователям предлагают оценивать женские фото, сгенерированные ИИ. Хотя цель в проекте исследовательская, его активно критикуют в сети, пишет Motherboard. Редакция MC.today передает детали.

Cropped image of man video chatting with woman at home

По своей сути новый ресурс чем-то напоминает приложения для знакомств, в которых пользователи могут лайкнуть просматриваемый профиль или нет. Следует отметить, что на ресурсе нет ни одного настоящего фото – все они сгенерированы. Настоящая же цель проекта состоит в том, чтобы исследовать возможности ИИ в распознавании предпочтений пользователя и способности рекомендовать ему релевантные изображения. То есть фактически все регистрирующиеся на smashorpass.ai помогают разработчикам в тестировании.

https://t.co/T4Jq5vqHD5：AI版Tinder
非常简单的一个网站，展示AI绘制的人像，你选择Smash（喜欢）还是Pass（不喜欢），AI根据你的选择，持续优化提示词，从而生成更加符合你喜好的人像。 pic.twitter.com/xizsCW0xbF

— Gorden Sun (@Gorden_Sun) September 5, 2023

Онлайн-курс "Створення текстів" від Skvot.

Великий практичний курс для розвитку скілів письма та створення історій, які хочеться перечитувати Результат курсу — портфоліо з 9 робіт та готовність братися за тексти будь-яких форматів.

Детальніше про курс

Впрочем, многие откровенно возмущаются из-за того, что для эксперимента сгенерировали изображения именно девушек. Одни обвиняют разработчиков в открытом поощрении объективизации женского тела и считают, что можно было выбрать любой другой тип контента – фото природы, еды, автомобилей, интерьеров и так далее. Другие отмечают, что некоторые изображения откровенно жуткие, поскольку контуры тел могут быть обезображены, а некоторые части, например головы или руки, вообще отсутствовать.

Нашлись и такие, кто заподозрил разработчиков в плагиате. Они вспомнили, что до того, как запустить Facebook, глава Meta Марк Цукерберг опозорился с предыдущим своим продуктом. Когда он создал печально известный сексистский сайт FaceMash, на котором пользователи оценивали фото настоящих девушек.

Эксперты по искусственному интеллекту считают проект контроверсионным, хоть и забавным. Некоторые из них отмечают, что даже при том, что уже существует много протоколов блокирования сексистских и расистских стереотипов, ИИ до сих пор может усваивать их и использовать во вред. Есть и те, которые рассматривают пристрастность в отношении женщин и маргинализованных людей как особенность искусственного интеллекта, а не как ошибку. А некоторые обвиняют во всем ИИ вроде ChatGPT, который сильно ограничивают. Простыми словами, предвзятость искусственного интеллекта не исчезает, а просто приобретает новую форму в других продуктах.

• К слову, бывшая супруга Билла Гейтса считает, что эту проблему можно решить, если привлечь к разработке ИИ больше женщин. Некоторые исследователи считают, что персональные ассистенты с искусственным интеллектом напротив плохо влияют на людей и навязывают им новые предубеждения.