Close up good looking male radio host broadcasting through microphone in studio
Основанная бывшими сотрудниками Google и Palantir, британская компания ElevenLabs недавно представила программу на базе искусственного интеллекта Prime Voice AI. Она может синтезировать речь, а также клонировать голоса реальных людей. Но резиденты анонимного форума 4chan использовали ее для того, чтобы записывать и распространять оскорбительные сообщения якобы от имени звезд. Редакция MC.today пересказывает подробности со ссылкой на Vice.
На днях пользователи анонимной платформы загрузили несколько десятков аудиороликов, якобы посвященных звездам. Но на самом деле они клонировали голоса известных людей для распространения оскорбительных сообщений.
В одном из роликов, например, актриса Эмма Уотсон с восхищением читает отрывок из книги Адольфа Гитлера «Моя борьба». В другом редактор издания The Daily Wire и ведущий популярного в США шоу Бен Шапиро произносит откровенно расистскую речь. Также голоса «знаменитостей» жестко прошлись по меньшинствам и призывали к разным формам насилия.
Бета-тестирование Prime Voice AI началось только 23 января, и уже через неделю основатели компании вынуждены ограничить или вовсе закрыть доступ к программе.
Prime Voice AI может воспроизвести практически любой голос по записи продолжительностью от 60 секунд. Программа считывает и клонирует особенности произношения, интонации и даже едва заметный акцент.
Разработчики создали этот инструмент преимущественно для озвучивания видео и игр, аудиокниг, записи информационных объявлений и так далее. В настоящее время компания ищет способы предотвратить создание вредного и оскорбительного контента посредством клонирования голосов. В частности, основатели рассматривают полный отказ от бесплатной версии Prime Voice AI и личную проверку аккаунтов пользователей и запросов на озвучивание текста сотрудниками компании.
На прошлой неделе ElevenLabs сообщила о привлечении $2 млн инвестиций от чешской компании Credo Ventures. Их планировали потратить на расширение библиотеки поддерживаемых языков, но теперь разработчикам придется тщательно пересмотреть всю модель ее работы.
Напомним, мы рассказывали о том, как искусственный интеллект сымитировал голос и речь Стива Джобса, а парню с дислексией помог написать книгу.
Power BI (Business Intelligence) Microsoft – это не просто платформа для анализа данных, а ключевой…
Лас-Вегас — один из самых узнаваемых городов на планете, который ежегодно манит к себе миллионы…
Из-за широкомасштабного вторжения россии в Украине было введено военное положение и объявлена мобилизация. Военнообязанным мужчинам…
«Вижу цель – не вижу препятствий». Знакомая фраза? Часто ею руководствуются кандидаты, ищущие работу мечты.…
Национальный банк Украины работает над открытым банкингом. Речь идет о структурированном и безопасном обмене данными…
В США финансовому консультанту предъявили обвинение в растрате около $5 млн, которые принадлежали его клиенту.…