Meta создала «идеальный» инструмент для генерации дипфейков Voicebox. Что о нем известно

Компания Марка Цукерберг Meta сообщила о том, что создала искусственный интеллект Voice­box для генерирования разговорного диалога с разнообразными потенциальными вариантами использования. Впрочем, разработчики не планируют делать его общедоступным, поскольку он «идеальный» для создания дипфейков. Редакция MC.today пересказывает подробности.

Car­toon Illus­tra­tion of Talk­ing Robots in the Futur­is­tic City

Как сообщили в компании, Voice­box может генерировать речь, опираясь на данные,  которым его специально не обучали. Программа использует короткие аудиозаписи и текстовые подсказки, как и многие другие похожие языковые модели. Но в отличие от предшественников Voice­box применяет новый подход, чтобы учиться только на необработанных аудио и сопроводительной транскрипции. То есть у него нет четкого перечня обучающих данных.

В Meta заявили, что Voice­box может создавать звуковые дорожки на шести языках: английском, французском, немецком, испанском, польском и португальском. К тому же он точнее имитирует естественную речь, то есть говорит так, как это делают люди в реальной жизни.

С самого начала разработчики планировали создать инструмент, который улучшил бы общение на разных языках или помог бы создавать реалистичные диалоги, например, для персонажей видеоигр. Впрочем, сейчас они опасаются, что Voice­box могут использовать для имитации артистов, политиков и других публичных лиц и распространения дипфейков.

Поэтому протестировать новый инструмент пока не получится. В Meta отказались опубликовать код программы и подчеркнули, что хотя и считают возможность делиться новыми технологиями важной для их развития, правильный баланс между открытостью и ответственностью найти еще не удалось.

Вместо того чтобы выпустить инструмент в функциональном состоянии, Meta поделилась образцами аудио и научной статьей. Это поможет коллегам-исследователям понять потенциал новой технологии.

• Напомним, ранее Марк Цукерберг пообещал интегрировать искусственный интеллект во все до одного продукты компании. Также недавно техногигант представил инструмент Music­Gen, который превращает текст в музыку.