Facebook запустил наклейки, генерируемые ИИ. Пользователи считают их непристойными, грубыми и слишком обнаженными
Hipster girl in eyeglasses worrying and watching online broadcasting on mobile phone while preparing for exam.Emotional female reading student's rating on university website in expecting good results
Компания Meta ранее обещала интегрировать искусственный интеллект абсолютно во все свои продукты и часто выпускает разнообразные обновления. В Facebook Messenger, например, появились наклейки, генерируемые ИИ. Впрочем, новая функция порадовала не всех. Пользователи отмечают, что ИИ создает неприемлемые изображения, например детей-солдат или обнаженных политиков, пишет The Verge.
Ранние пользовательские тесты нового инструмента Meta для создания наклеек с искусственным интеллектом привели к появлению сомнительных (и довольно смешных) изображений. Например, один из пользователей X (Twitter) смог создать множество неприемлемых наклеек, в том числе детей-солдат, персонажей Nintendo с оружием, справляющего малую нужду Мики Мауса и обнаженного канадского премьер-министра Джастина Трюдо.
Он также заметил, что искусственный интеллект может практически на любое изображение добавить грудь.
Конечно, некоторых пользователей это порадовало, однако многие считают новые наклейки слишком грубыми и непристойными, в частности, из-за чрезмерной обнаженности.
Новый алгоритм Meta под названием Emu расшифровывается как «выразительная медиа-вселенная». Похоже, что существует перечень заблокированных слов, который должен препятствовать созданию неприемлемых изображений. Впрочем, пользователи сети заметили, что ограничения можно обойти с помощью опечаток, синонимов или описаний понятий, которые могут быть запрещены.
Новую функцию анонсировали на прошлой неделе во время мероприятия Meta’s Connect. Наклейки можно создавать с помощью большой языковой модели Llama 2 от Meta. Ее считают едва ли не самой большим конкурентом ChatGPT. Сейчас эти наклейки доступны для небольшого количества пользователей. По некоторым данным, их можно генерировать не только у Messenger, но и в Facebook Stories, Instagram Stories и WhatsApp. Тестовый период продлится месяц.
Ошибки в работе искусственного интеллекта – не редкость. Вероятно, именно поэтому функцию внедрили с ограничениями. Это должно помочь выявить возможные разновидности злоупотреблений до того, как наклейки станут доступны широкой публике.