Заснована колишніми співробітниками Google і Palantir британська компанія ElevenLabs нещодавно представила програму на базі штучного інтелекту Prime Voice AI. Вона може синтезувати мовлення, а також клонувати голоси реальних людей. Але резиденти анонімного форуму 4chan використали її для того, аби записувати та поширювати образливі повідомлення нібито від імені зірок. Редакція MC.today переповідає подробиці з посиланням на Vice.
Днями користувачі анонімної платформи завантажили кілька десятків аудіороликів, нібито присвячених зіркам. Але насправді вони клонували голоси відомих людей для поширення образливих повідомлень.
В одному з роликів, наприклад, акторка Емма Вотсон із захопленням читає уривок із книги Адольфа Гітлера «Моя боротьба». В іншому редактор видання The Daily Wire та ведучий популярного в США шоу Бен Шапіро виголошує відверто расистську промову. Також голоси «знаменитостей» жорстко пройшлися по меншинах та закликали до різних форм насильства.
Бета-тестування Prime Voice AI розпочалося тільки 23 січня, та вже за тиждень перед засновниками компанії постало питання вилучення програми з відкритого доступу.
Prime Voice AI може реалістично відтворити практично будь-чий голос за записом тривалістю від 60 секунд. Програма зчитує й клонує особливості вимови, інтонації та навіть ледь помітний акцент.
Розробники створили цей інструмент переважно для озвучування відео та ігор, начитування аудіокниг, запису інформаційних оголошень тощо. Наразі компанія шукає способи запобігти створенню шкідливого та образливого контенту за допомогою клонування голосів. Зокрема, засновники розглядають повну відмову від безплатної версії Prime Voice AI та особисту перевірку облікових записів користувачів і запитів на озвучування тексту співробітниками компанії.
Минулого тижня ElevenLabs повідомила про залучення $2 млн інвестицій від чеської компанії Credo Ventures. Їх планували витратити на розширення переліку мов, проте тепер розробникам, ймовірно, доведеться ретельно переглянути всю модель її роботи.
Нагадаємо, ми розповідали про те, як штучний інтелект зімітував голос та промову Стіва Джобса, а хлопцеві з дислексією допоміг написати книгу.
Попри тенденцію до повернення працівників в офіси багато компаній досі практикують гібридний графік роботи, коли…
12 грудня 2023 року сталася масштабна кібератака на «Київстар». І, хоча в абонентів зникла мережа,…
Днями до преси просочилась інформація про початок знімань нового фільму з Аль Пачіно вже за…
Ембер Венц Бокс зі США запустила власний проєкт з доволі простою метою – заробити трохи…
Співвласник української мережі магазинів заморожених напівфабрикатів «Галя Балувана», яка активно виходить на міжнародні ринки під…
Українська мережа магазинів заморожених напівфабрикатів «Галя Балувана» активно підкорює закордонні ринки під брендом Multi Cook.…