Meta создала «идеальный» инструмент для генерации дипфейков Voicebox. Что о нем известно

Компания Марка Цукерберг Meta сообщила о том, что создала искусственный интеллект Voicebox для генерирования разговорного диалога с разнообразными потенциальными вариантами использования. Впрочем, разработчики не планируют делать его общедоступным, поскольку он «идеальный» для создания дипфейков. Редакция MC.today пересказывает подробности.

Cartoon Illustration of Talking Robots in the Futuristic City

Как сообщили в компании, Voicebox может генерировать речь, опираясь на данные,  которым его специально не обучали. Программа использует короткие аудиозаписи и текстовые подсказки, как и многие другие похожие языковые модели. Но в отличие от предшественников Voicebox применяет новый подход, чтобы учиться только на необработанных аудио и сопроводительной транскрипции. То есть у него нет четкого перечня обучающих данных.

В Meta заявили, что Voicebox может создавать звуковые дорожки на шести языках: английском, французском, немецком, испанском, польском и португальском. К тому же он точнее имитирует естественную речь, то есть говорит так, как это делают люди в реальной жизни.

С самого начала разработчики планировали создать инструмент, который улучшил бы общение на разных языках или помог бы создавать реалистичные диалоги, например, для персонажей видеоигр. Впрочем, сейчас они опасаются, что Voicebox могут использовать для имитации артистов, политиков и других публичных лиц и распространения дипфейков.

Поэтому протестировать новый инструмент пока не получится. В Meta отказались опубликовать код программы и подчеркнули, что хотя и считают возможность делиться новыми технологиями важной для их развития, правильный баланс между открытостью и ответственностью найти еще не удалось.

Вместо того чтобы выпустить инструмент в функциональном состоянии, Meta поделилась образцами аудио и научной статьей. Это поможет коллегам-исследователям понять потенциал новой технологии.

• Напомним, ранее Марк Цукерберг пообещал интегрировать искусственный интеллект во все до одного продукты компании. Также недавно техногигант представил инструмент MusicGen, который превращает текст в музыку.