«Вы знаете, что делать, ребята». Разработчики создали сексистский ИИ-сайт

Команда энтузиастов искусственного интеллекта под руководством разработчика Эммета Халма недавно запустила сайт smashorpass.ai, ориентированный на мужчин. Пользователям предлагают оценивать женские фото, сгенерированные ИИ. Хотя цель в проекте исследовательская, его активно критикуют в сети, пишет Motherboard. Редакция MC.today передает детали.

По своей сути новый ресурс чем-то напоминает приложения для знакомств, в которых пользователи могут лайкнуть просматриваемый профиль или нет. Следует отметить, что на ресурсе нет ни одного настоящего фото – все они сгенерированы. Настоящая же цель проекта состоит в том, чтобы исследовать возможности ИИ в распознавании предпочтений пользователя и способности рекомендовать ему релевантные изображения. То есть фактически все регистрирующиеся на smashorpass.ai помогают разработчикам в тестировании.

Впрочем, многие откровенно возмущаются из-за того, что для эксперимента сгенерировали изображения именно девушек. Одни обвиняют разработчиков в открытом поощрении объективизации женского тела и считают, что можно было выбрать любой другой тип контента – фото природы, еды, автомобилей, интерьеров и так далее. Другие отмечают, что некоторые изображения откровенно жуткие, поскольку контуры тел могут быть обезображены, а некоторые части, например головы или руки, вообще отсутствовать.

Нашлись и такие, кто заподозрил разработчиков в плагиате. Они вспомнили, что до того, как запустить Facebook, глава Meta Марк Цукерберг опозорился с предыдущим своим продуктом. Когда он создал печально известный сексистский сайт FaceMash, на котором пользователи оценивали фото настоящих девушек.

Эксперты по искусственному интеллекту считают проект контроверсионным, хоть и забавным. Некоторые из них отмечают, что даже при том, что уже существует много протоколов блокирования сексистских и расистских стереотипов, ИИ до сих пор может усваивать их и использовать во вред. Есть и те, которые рассматривают пристрастность в отношении женщин и маргинализованных людей как особенность искусственного интеллекта, а не как ошибку. А некоторые обвиняют во всем ИИ вроде ChatGPT, который сильно ограничивают. Простыми словами, предвзятость искусственного интеллекта не исчезает, а просто приобретает новую форму в других продуктах.

• К слову, бывшая супруга Билла Гейтса считает, что эту проблему можно решить, если привлечь к разработке ИИ больше женщин. Некоторые исследователи считают, что персональные ассистенты с искусственным интеллектом напротив плохо влияют на людей и навязывают им новые предубеждения.