British actress Emma Watson attends a premiere event for her new movie "Beauty and the Beast" in Shanghai, China, 27 February 2017.
Заснована колишніми співробітниками Google і Palantir британська компанія ElevenLabs нещодавно представила програму на базі штучного інтелекту Prime Voice AI. Вона може синтезувати мовлення, а також клонувати голоси реальних людей. Але резиденти анонімного форуму 4chan використали її для того, аби записувати та поширювати образливі повідомлення нібито від імені зірок. Редакція MC.today переповідає подробиці з посиланням на Vice.
Днями користувачі анонімної платформи завантажили кілька десятків аудіороликів, нібито присвячених зіркам. Але насправді вони клонували голоси відомих людей для поширення образливих повідомлень.
В одному з роликів, наприклад, акторка Емма Вотсон із захопленням читає уривок із книги Адольфа Гітлера «Моя боротьба». В іншому редактор видання The Daily Wire та ведучий популярного в США шоу Бен Шапіро виголошує відверто расистську промову. Також голоси «знаменитостей» жорстко пройшлися по меншинах та закликали до різних форм насильства.
Бета-тестування Prime Voice AI розпочалося тільки 23 січня, та вже за тиждень перед засновниками компанії постало питання вилучення програми з відкритого доступу.
Prime Voice AI може реалістично відтворити практично будь-чий голос за записом тривалістю від 60 секунд. Програма зчитує й клонує особливості вимови, інтонації та навіть ледь помітний акцент.
Розробники створили цей інструмент переважно для озвучування відео та ігор, начитування аудіокниг, запису інформаційних оголошень тощо. Наразі компанія шукає способи запобігти створенню шкідливого та образливого контенту за допомогою клонування голосів. Зокрема, засновники розглядають повну відмову від безплатної версії Prime Voice AI та особисту перевірку облікових записів користувачів і запитів на озвучування тексту співробітниками компанії.
Минулого тижня ElevenLabs повідомила про залучення $2 млн інвестицій від чеської компанії Credo Ventures. Їх планували витратити на розширення переліку мов, проте тепер розробникам, ймовірно, доведеться ретельно переглянути всю модель її роботи.
Нагадаємо, ми розповідали про те, як штучний інтелект зімітував голос та промову Стіва Джобса, а хлопцеві з дислексією допоміг написати книгу.
Інвестор і засновник UFuture, UNIT.City та K.Fund Василь Хмельницький розповів, що потрібно для того, аби…
Міністр цифрової трансформації Михайло Федоров повідомив про запуск Sandbox. Це проєкт Мінцифри та Українського фонду…
VARUS.UA запускає пілотну версію нової функції Neomi – штучного інтелекту, який автоматично добирає інгредієнти для…
Компанія «Київстар» відкрито заявляла про зацікавленість у купівлі освітньої платформи. Наразі відібрано три EdTech-компанії, з…
У CDTO Campus запустили «Дія Факультет» – це єдина освітня мережа навчальних програм для всієї…
Експерти висловили занепокоєння щодо того, що принаймні два великі гравці технологічного ринку порушують принципи безпеки…