Ексінженери Google створили технологію клонування голосів. Емма Вотсон у ній «читає» книгу Гітлера, а телеведучі «виголошують» расистські промови

Заснована колишніми співробітниками Google і Palantir британська компанія ElevenLabs нещодавно представила програму на базі штучного інтелекту Prime Voice AI. Вона може синтезувати мовлення, а також клонувати голоси реальних людей. Але резиденти анонімного форуму 4chan використали її для того, аби записувати та поширювати образливі повідомлення нібито від імені зірок. Редакція MC.today переповідає подробиці з посиланням на Vice.

British actress Emma Watson attends a premiere event for her new movie "Beauty and the Beast" in Shanghai, China, 27 February 2017.

Днями користувачі анонімної платформи завантажили кілька десятків аудіороликів, нібито присвячених зіркам. Але насправді вони клонували голоси відомих людей для поширення образливих повідомлень.

В одному з роликів, наприклад, акторка Емма Вотсон із захопленням читає уривок із книги Адольфа Гітлера «Моя боротьба». В іншому редактор видання The Daily Wire та ведучий популярного в США шоу Бен Шапіро виголошує відверто расистську промову. Також голоси «знаменитостей» жорстко пройшлися по меншинах та закликали до різних форм насильства.

Бета-тестування Prime Voice AI розпочалося тільки 23 січня, та вже за тиждень перед засновниками компанії постало питання вилучення програми з відкритого доступу.

Prime Voice AI може реалістично відтворити практично будь-чий голос за записом тривалістю від 60 секунд. Програма зчитує й клонує особливості вимови, інтонації та навіть ледь помітний акцент.

Розробники створили цей інструмент переважно для озвучування відео та ігор, начитування аудіокниг, запису інформаційних оголошень тощо. Наразі компанія шукає способи запобігти створенню шкідливого та образливого контенту за допомогою клонування голосів. Зокрема, засновники розглядають повну відмову від безплатної версії Prime Voice AI та особисту перевірку облікових записів користувачів і запитів на озвучування тексту співробітниками компанії.

Минулого тижня ElevenLabs повідомила про залучення $2 млн інвестицій від чеської компанії Credo Ventures. Їх планували витратити на розширення переліку мов, проте тепер розробникам, ймовірно, доведеться ретельно переглянути всю модель її роботи.

Нагадаємо, ми розповідали про те, як штучний інтелект зімітував голос та промову Стіва Джобса, а хлопцеві з дислексією допоміг написати книгу.