Экс-инженеры Google создали технологию клонирования голосов. Эмма Уотсон в ней «читает» книгу Гитлера, а телеведущие «произносят» расистские речи

Основанная бывшими сотрудниками Google и Palantir, британская компания ElevenLabs недавно представила программу на базе искусственного интеллекта Prime Voice AI. Она может синтезировать речь, а также клонировать голоса реальных людей. Но резиденты анонимного форума 4chan использовали ее для того, чтобы записывать и распространять оскорбительные сообщения якобы от имени звезд. Редакция MC.today пересказывает подробности со ссылкой на Vice.

Close up good looking male radio host broadcasting through microphone in studio

На днях пользователи анонимной платформы загрузили несколько десятков аудиороликов, якобы посвященных звездам. Но на самом деле они клонировали голоса известных людей для распространения оскорбительных сообщений.

В одном из роликов, например, актриса Эмма Уотсон с восхищением читает отрывок из книги Адольфа Гитлера «Моя борьба». В другом редактор издания The Daily Wire и ведущий популярного в США шоу Бен Шапиро произносит откровенно расистскую речь. Также голоса «знаменитостей» жестко прошлись по меньшинствам и призывали к разным формам насилия.

Бета-тестирование Prime Voice AI началось только 23 января, и уже через неделю основатели компании вынуждены ограничить или вовсе закрыть доступ к программе.

Prime Voice AI может воспроизвести практически любой голос по записи продолжительностью от 60 секунд. Программа считывает и клонирует особенности произношения, интонации и даже едва заметный акцент.

Разработчики создали этот инструмент преимущественно для озвучивания видео и игр, аудиокниг, записи информационных объявлений и так далее. В настоящее время компания ищет способы предотвратить создание вредного и оскорбительного контента посредством клонирования голосов. В частности, основатели рассматривают полный отказ от бесплатной версии Prime Voice AI и личную проверку аккаунтов пользователей и запросов на озвучивание текста сотрудниками компании.

На прошлой неделе ElevenLabs сообщила о привлечении $2 млн инвестиций от чешской компании Credo Ventures. Их планировали потратить на расширение библиотеки поддерживаемых языков, но теперь разработчикам придется тщательно пересмотреть всю модель ее работы.

Напомним, мы рассказывали о том, как искусственный интеллект сымитировал голос и речь Стива Джобса, а парню с дислексией помог написать книгу.