British actress Emma Watson attends a premiere event for her new movie "Beauty and the Beast" in Shanghai, China, 27 February 2017.
Заснована колишніми співробітниками Google і Palantir британська компанія ElevenLabs нещодавно представила програму на базі штучного інтелекту Prime Voice AI. Вона може синтезувати мовлення, а також клонувати голоси реальних людей. Але резиденти анонімного форуму 4chan використали її для того, аби записувати та поширювати образливі повідомлення нібито від імені зірок. Редакція MC.today переповідає подробиці з посиланням на Vice.
Днями користувачі анонімної платформи завантажили кілька десятків аудіороликів, нібито присвячених зіркам. Але насправді вони клонували голоси відомих людей для поширення образливих повідомлень.
В одному з роликів, наприклад, акторка Емма Вотсон із захопленням читає уривок із книги Адольфа Гітлера «Моя боротьба». В іншому редактор видання The Daily Wire та ведучий популярного в США шоу Бен Шапіро виголошує відверто расистську промову. Також голоси «знаменитостей» жорстко пройшлися по меншинах та закликали до різних форм насильства.
Бета-тестування Prime Voice AI розпочалося тільки 23 січня, та вже за тиждень перед засновниками компанії постало питання вилучення програми з відкритого доступу.
Prime Voice AI може реалістично відтворити практично будь-чий голос за записом тривалістю від 60 секунд. Програма зчитує й клонує особливості вимови, інтонації та навіть ледь помітний акцент.
Розробники створили цей інструмент переважно для озвучування відео та ігор, начитування аудіокниг, запису інформаційних оголошень тощо. Наразі компанія шукає способи запобігти створенню шкідливого та образливого контенту за допомогою клонування голосів. Зокрема, засновники розглядають повну відмову від безплатної версії Prime Voice AI та особисту перевірку облікових записів користувачів і запитів на озвучування тексту співробітниками компанії.
Минулого тижня ElevenLabs повідомила про залучення $2 млн інвестицій від чеської компанії Credo Ventures. Їх планували витратити на розширення переліку мов, проте тепер розробникам, ймовірно, доведеться ретельно переглянути всю модель її роботи.
Нагадаємо, ми розповідали про те, як штучний інтелект зімітував голос та промову Стіва Джобса, а хлопцеві з дислексією допоміг написати книгу.
Другий за величиною цифровий токен Ethereum цієї п’ятниці різко зріс у ціні, збільшивши свій тижневий…
CEO Netpeak Group Артем Бородатюк поділився, як у групі впроваджують інструменти штучного інтелекту та роботу…
Засновуючи tTravel, Олександр Буратинський та Артем Шамбальов, маючи за плечима роки дружби, подорожей та спільної…
Компанія OpenAI почала тестувати оновлення Deep Research у ChatGPT. Функція буде працювати з репозиторіями GitHub…
EPAM Systems змінює керівництво. Засновник ІТ-компанії та генеральний директор Аркадій Добкін йде з посади. Він…
Співзасновник «Нової пошти» Володимир Поперешнюк у Школі бізнесу НП розповів, який стартап запустив би, якби…