Facebook запустил наклейки, генерируемые ИИ. Пользователи считают их непристойными, грубыми и слишком обнаженными

Компания Meta ранее обещала интегрировать искусственный интеллект абсолютно во все свои продукты и часто выпускает разнообразные обновления. В Facebook Messenger, например, появились наклейки, генерируемые ИИ. Впрочем, новая функция порадовала не всех. Пользователи отмечают, что ИИ создает неприемлемые изображения, например детей-солдат или обнаженных политиков, пишет The Verge.

Ранние пользовательские тесты нового инструмента Meta для создания наклеек с искусственным интеллектом привели к появлению сомнительных (и довольно смешных) изображений. Например, один из пользователей X (Twitter) смог создать множество неприемлемых наклеек, в том числе детей-солдат, персонажей Nintendo с оружием, справляющего малую нужду Мики Мауса и обнаженного канадского премьер-министра Джастина Трюдо.

Он также заметил, что искусственный интеллект может практически на любое изображение добавить грудь. 

Конечно, некоторых пользователей это порадовало, однако многие считают новые наклейки слишком грубыми и непристойными, в частности, из-за чрезмерной обнаженности. 

Новый алгоритм Meta под названием Emu расшифровывается как «выразительная медиа-вселенная». Похоже, что существует перечень заблокированных слов, который должен препятствовать созданию неприемлемых изображений. Впрочем, пользователи сети заметили, что ограничения можно обойти с помощью опечаток, синонимов или описаний понятий, которые могут быть запрещены.

Новую функцию анонсировали на прошлой неделе во время мероприятия Meta’s Connect. Наклейки можно создавать с помощью большой языковой модели Llama 2 от Meta. Ее считают едва ли не самой большим конкурентом ChatGPT. Сейчас эти наклейки доступны для небольшого количества пользователей. По некоторым данным, их можно генерировать не только у Messenger, но и в Facebook Stories, Instagram Stories и WhatsApp. Тестовый период продлится месяц.

Ошибки в работе искусственного интеллекта – не редкость. Вероятно, именно поэтому функцию внедрили с ограничениями. Это должно помочь выявить возможные разновидности злоупотреблений до того, как наклейки станут доступны широкой публике.

• Ранее мы рассказывали, что Meta представила искусственный интеллект MusicGen, превращающий текст в музыку, и «идеальный» инструмент для генерации дипфейков Voicebox.