Экс-инженеры Google создали технологию клонирования голосов. Эмма Уотсон в ней «читает» книгу Гитлера, а телеведущие «произносят» расистские речи
Close up good looking male radio host broadcasting through microphone in studio
Основанная бывшими сотрудниками Google и Palantir, британская компания ElevenLabs недавно представила программу на базе искусственного интеллекта Prime Voice AI. Она может синтезировать речь, а также клонировать голоса реальных людей. Но резиденты анонимного форума 4chan использовали ее для того, чтобы записывать и распространять оскорбительные сообщения якобы от имени звезд. Редакция MC.today пересказывает подробности со ссылкой на Vice.
[social_blue social="telegram"]На днях пользователи анонимной платформы загрузили несколько десятков аудиороликов, якобы посвященных звездам. Но на самом деле они клонировали голоса известных людей для распространения оскорбительных сообщений.
В одном из роликов, например, актриса Эмма Уотсон с восхищением читает отрывок из книги Адольфа Гитлера «Моя борьба». В другом редактор издания The Daily Wire и ведущий популярного в США шоу Бен Шапиро произносит откровенно расистскую речь. Также голоса «знаменитостей» жестко прошлись по меньшинствам и призывали к разным формам насилия.
Бета-тестирование Prime Voice AI началось только 23 января, и уже через неделю основатели компании вынуждены ограничить или вовсе закрыть доступ к программе.
Prime Voice AI может воспроизвести практически любой голос по записи продолжительностью от 60 секунд. Программа считывает и клонирует особенности произношения, интонации и даже едва заметный акцент.
Разработчики создали этот инструмент преимущественно для озвучивания видео и игр, аудиокниг, записи информационных объявлений и так далее. В настоящее время компания ищет способы предотвратить создание вредного и оскорбительного контента посредством клонирования голосов. В частности, основатели рассматривают полный отказ от бесплатной версии Prime Voice AI и личную проверку аккаунтов пользователей и запросов на озвучивание текста сотрудниками компании.
На прошлой неделе ElevenLabs сообщила о привлечении $2 млн инвестиций от чешской компании Credo Ventures. Их планировали потратить на расширение библиотеки поддерживаемых языков, но теперь разработчикам придется тщательно пересмотреть всю модель ее работы.
Напомним, мы рассказывали о том, как искусственный интеллект сымитировал голос и речь Стива Джобса, а парню с дислексией помог написать книгу.