Рубріки: Інфопривід

Ексінженери Google створили технологію клонування голосів. Емма Вотсон у ній «читає» книгу Гітлера, а телеведучі «виголошують» расистські промови

Заснована колишніми співробітниками Google і Palantir британська компанія ElevenLabs нещодавно представила програму на базі штучного інтелекту Prime Voice AI. Вона може синтезувати мовлення, а також клонувати голоси реальних людей. Але резиденти анонімного форуму 4chan використали її для того, аби записувати та поширювати образливі повідомлення нібито від імені зірок. Редакція MC.today переповідає подробиці з посиланням на Vice.

Днями користувачі анонімної платформи завантажили кілька десятків аудіороликів, нібито присвячених зіркам. Але насправді вони клонували голоси відомих людей для поширення образливих повідомлень.

В одному з роликів, наприклад, акторка Емма Вотсон із захопленням читає уривок із книги Адольфа Гітлера «Моя боротьба». В іншому редактор видання The Daily Wire та ведучий популярного в США шоу Бен Шапіро виголошує відверто расистську промову. Також голоси «знаменитостей» жорстко пройшлися по меншинах та закликали до різних форм насильства.

Бета-тестування Prime Voice AI розпочалося тільки 23 січня, та вже за тиждень перед засновниками компанії постало питання вилучення програми з відкритого доступу.

Prime Voice AI може реалістично відтворити практично будь-чий голос за записом тривалістю від 60 секунд. Програма зчитує й клонує особливості вимови, інтонації та навіть ледь помітний акцент.

Курс English For IT: Communication від Enlgish4IT.
Почни легко працювати та спілкуватися з мультикультурними командами та міжнародними клієнтами. Отримайте знижку 10% за промокодом ITCENG.
Інформація про курс

Розробники створили цей інструмент переважно для озвучування відео та ігор, начитування аудіокниг, запису інформаційних оголошень тощо. Наразі компанія шукає способи запобігти створенню шкідливого та образливого контенту за допомогою клонування голосів. Зокрема, засновники розглядають повну відмову від безплатної версії Prime Voice AI та особисту перевірку облікових записів користувачів і запитів на озвучування тексту співробітниками компанії.

Минулого тижня ElevenLabs повідомила про залучення $2 млн інвестицій від чеської компанії Credo Ventures. Їх планували витратити на розширення переліку мов, проте тепер розробникам, ймовірно, доведеться ретельно переглянути всю модель її роботи.

Нагадаємо, ми розповідали про те, як штучний інтелект зімітував голос та промову Стіва Джобса, а хлопцеві з дислексією допоміг написати книгу.

Нещодавні статті

Жінка виявила, що її віддалена асистентка в робочий час відвідує перукарню. Якою була реакція

Попри тенденцію до повернення працівників в офіси багато компаній досі практикують гібридний графік роботи, коли…

28/03/2024

PR-директорка Анна Захараш про кібератаку на «Київстар», антикризові комунікації та головне правило комунікаційника

12 грудня 2023 року сталася масштабна кібератака на «Київстар». І, хоча в абонентів зникла мережа,…

28/03/2024

Wynn Las Vegas в обʼєктивах камер: що відомо про знімання нового фільму з Аль Пачіно?

Днями до преси просочилась інформація про початок знімань нового фільму з Аль Пачіно вже за…

28/03/2024

Хотіла трохи заробити. Жінка перетворила хобі на бізнес, який тепер оцінюється у $2 млрд

Ембер Венц Бокс зі США запустила власний проєкт з доволі простою метою – заробити трохи…

28/03/2024

В асортименті «Галі Балуваної» та Multi Cook ресторанне поповнення – що відомо

Співвласник української мережі магазинів заморожених напівфабрикатів «Галя Балувана», яка активно виходить на міжнародні ринки під…

28/03/2024

«Галя Балувана» слідом за українською закриває продаж закордонних франшиз. У чому річ

Українська мережа магазинів заморожених напівфабрикатів «Галя Балувана» активно підкорює закордонні ринки під брендом Multi Cook.…

28/03/2024