Facebook запустил наклейки, генерируемые ИИ. Пользователи считают их непристойными, грубыми и слишком обнаженными

Компания Meta ранее обещала интегрировать искусственный интеллект абсолютно во все свои продукты и часто выпускает разнообразные обновления. В Facebook Messenger, например, появились наклейки, генерируемые ИИ. Впрочем, новая функция порадовала не всех. Пользователи отмечают, что ИИ создает неприемлемые изображения, например детей-солдат или обнаженных политиков, пишет The Verge.

Hipster girl in eyeglasses worrying and watching online broadcasting on mobile phone while preparing for exam.Emotional female reading student's rating on university website in expecting good results

Ранние пользовательские тесты нового инструмента Meta для создания наклеек с искусственным интеллектом привели к появлению сомнительных (и довольно смешных) изображений. Например, один из пользователей X (Twitter) смог создать множество неприемлемых наклеек, в том числе детей-солдат, персонажей Nintendo с оружием, справляющего малую нужду Мики Мауса и обнаженного канадского премьер-министра Джастина Трюдо.

found out that facebook messenger has ai generated stickers now and I don’t think anyone involved has thought anything through pic.twitter.com/co987cRhyu

— defend trans rights🏳️‍⚧️ – podesbiens.bsky.social (@Pioldes) October 3, 2023

Он также заметил, что искусственный интеллект может практически на любое изображение добавить грудь. 

zuckerberg is directly responsible for this specifically pic.twitter.com/6K3ShlnG2D

— defend trans rights🏳️‍⚧️ – podesbiens.bsky.social (@Pioldes) October 3, 2023

Конечно, некоторых пользователей это порадовало, однако многие считают новые наклейки слишком грубыми и непристойными, в частности, из-за чрезмерной обнаженности. 

Новый алгоритм Meta под названием Emu расшифровывается как «выразительная медиа-вселенная». Похоже, что существует перечень заблокированных слов, который должен препятствовать созданию неприемлемых изображений. Впрочем, пользователи сети заметили, что ограничения можно обойти с помощью опечаток, синонимов или описаний понятий, которые могут быть запрещены.

the future is now pic.twitter.com/gJj3F3ftGV

— defend trans rights🏳️‍⚧️ – podesbiens.bsky.social (@Pioldes) October 4, 2023

Ok these are just amazing! 😂❤️ pic.twitter.com/HVbBAmupK5

— 🌺jess🌺 (@__RedLily__) October 4, 2023

Новую функцию анонсировали на прошлой неделе во время мероприятия Meta’s Connect. Наклейки можно создавать с помощью большой языковой модели Llama 2 от Meta. Ее считают едва ли не самой большим конкурентом ChatGPT. Сейчас эти наклейки доступны для небольшого количества пользователей. По некоторым данным, их можно генерировать не только у Messenger, но и в Facebook Stories, Instagram Stories и WhatsApp. Тестовый период продлится месяц.

Ошибки в работе искусственного интеллекта – не редкость. Вероятно, именно поэтому функцию внедрили с ограничениями. Это должно помочь выявить возможные разновидности злоупотреблений до того, как наклейки станут доступны широкой публике.

• Ранее мы рассказывали, что Meta представила искусственный интеллект MusicGen, превращающий текст в музыку, и «идеальный» инструмент для генерации дипфейков Voicebox.