Ненастоящие люди и реальная дезинформация. Новостной ресурс создал цифровых дикторов и распространял фейки

Новостную компанию Wolf News подозревают в использовании видео-технологии Deepfake для создания ненастоящих людей в рамках государственной информационной кампании. Об этом сообщает The New York Times.

Технические корреспонденты Адам Сатариано из Лондона, Великобритания, и Пол Мозур из Сеула, Южная Корея, работают в сфере разоблачения дезинформации. Они сообщили о минимум двух сюжетах, в которых вместо дикторов «новости» зачитывали цифровые аватары.

В одном из них ведущий говорил о том, что США якобы никак не планируют противодействовать насилию в мире. В другом корреспондент рассказывал о роли Китая в геополитических отношениях.

Журналисты отметили некоторую «синтетичность» их голосов, к тому же их мимика не соответствовала речи. После детального анализа удалось установить, что изображения вообще были пиксельными. То есть это не настоящие дикторы, а созданные искусственным интеллектом аватары. 

Вице-президент исследовательской компании Graphika, занимающейся обнаружением и обезвреживанием дезинформации, Джек Стаббс сообщил, что за все время работы в этой отрасли видел такое впервые. Он предположил, что целью кампании было продвижения интересов Коммунистической партии Китая и подрыв авторитета Соединенных Штатов.

Считается, что обоих дикторов создали с использованием технологии Deepfake, которая буквально позволяет генерировать цифровых говорящих марионеток. Если помните, в прошлом году в сети распространяли созданное с ее помощью фейковое видео, в котором президент Владимир Зеленский якобы призывал украинцев сложить оружие.

Законодательство в области использования таких технологий только начинает формироваться. А это увеличивает риск того, что этими технологиями будут злоупотреблять для распространения пропаганды и дезинформации с призывами к беспорядкам или для разжигания политических скандалов.

В компании Graphika предположили, что для создания фейковых новостей использовали цифровые аватары, сгенерированные программным обеспечением британской компании Synthesia. Они могут говорить на десятках языков и имитировать различные акценты. В Synthesia сообщили, что пользователи, создавшие фейковые видео для Wolf News, нарушили правила компании. Злоумышленников идентифицировали, а их учетные записи заблокировали.

Наша редакция также рассказывала, что отличать цифровые аватары от реальных людей становится все сложнее. Также предлагаем почитать о том, что похожую технологию хотят использовать для «омоложения» актера Тома Хэнкса.