Злоумышленник «похитил» ребенка и требовал $1 млн выкупа. В качестве доказательства он предоставил его голос, сгенерированный ИИ

Новые технологии, конечно, упрощают жизнь, но иногда они помогают и в злонамеренных целях. Американка рассказала, что мошенник требовал миллион долларов за ее якобы похищенную дочь. В подтверждение ситуации он даже дал ей трубку. Однако на самом деле этот голос был клонирован с помощью искусственного интеллекта. Об этом сообщает Arizona’s Family.

Дженнифер ДеСтефано из штата Аризона рассказала, что получила звонок от неизвестного номера телефона. Когда взяла трубку, услышала крик и мольбы о помощи от своей 15-летней дочери. Позже трубку взял мужчина, который начал угрожать нанести вред девушке.

«И в этот момент я начала дрожать. На заднем плане она (дочь – ред.) кричала: “Помоги мне, мама. Пожалуйста, помоги мне. Помогите мне”», – поделилась Дженнифер.

Женщина рассказала, что у нее не возникло сомнений, что это ее дочь, поскольку она услышала ее голос. Злоумышленник также требовал деньги: сначала миллион долларов, а потом, когда стало ясно, что таких денег у нее нет, потребовал $50 тысяч.

К счастью, чуть позже американка смогла связаться с дочерью и обнаружить, что на самом деле с ней все хорошо. «Я буквально просто села и расплакалась».

На самом же деле голос, который слышала Дженнифер, был клоном, сгенерированным искусственным интеллектом. Технологии клонирования голоса быстро развиваются. Если раньше для этого требовалось несколько отрывков настоящего голоса, то сейчас достаточно даже трех секунд.

Правоохранители отмечают, что часто мошенники ищут своих жертв в соцсетях: собирают информацию, а затем начинают свою аферу.

Технология клонирования голоса используется также для дезинформации. Например, пользователи записывали и распространяли оскорбительные сообщения якобы от имени звезд. Таким способом Эмма Уотсон «читала» книгу Гитлера, а телеведущие «провозглашали» расистские речи.

Также мы писали, что журналист взломал банковский счет с помощью синтезированного искусственным интеллектом голоса, а актеры озвучивания жаловались на то, что их заставляют передать права на свои голоса ИИ.