ИИ на связи. Эксперты по кибербезопасности создали чат-бот, обманывающий телефонных мошенников

Мошенники часто используют искусственный интеллект для своих махинаций. А что если использовать технологию против самих аферистов? Эксперты по кибербезопасности Университета Маккуори разработали чат-бот, обманывающий телефонных злоумышленников.

Новая ИИ-система Apate, названная в честь древнегреческой богини лжи, обманывает мошенников, используя убедительные голосовые клоны. Таким образом, она задерживает их на линии как можно дольше, чтобы он пообщался с меньшим количеством жертв.

Идея проекта возникла у профессора Дали Каафару, когда ему позвонили аферисты. Тогда он не растерялся и говорил с ними около 40 минут. Ученый решил, что такую ​​схему можно использовать без участия человека, а с помощью ИИ.

Для этого Apate учили на различных взаимодействиях мошенников и жертв: на телефонных разговорах и письмах, а также на переписке и общении в соцсетях. Разработка может не только поддерживать разговор, но и клонировать голос и акцент.

Тестирование проходит на настоящих звонках. В качестве приманки ученые используют несколько номеров, которые специально опубликовали на подозрительных платформах.

В результате эксперты обнаружили, что бот достаточно хорошо реагирует на сложные ситуации, например, когда аферист спрашивает данные, которые система не изучала. «Боты постоянно учатся растягивать звонки, чтобы добиться своей основной цели: дольше держать мошенников на связи». Правда, сейчас бот общается с ними около 5 минут вместо запланированных 40 минут. Планируется, что большое количество продолжительных разговоров пошатнет схему злоумышленников.

Сейчас злоумышленники сами используют ИИ, чтобы обмануть больше жертв, но эксперты настроены оптимистично.

«Если мошеннические чат-боты в итоге будут общаться с чат-ботами, защищающими от мошенничества, вместо того, чтобы воровать деньги у реальных людей, я восприму это как великую победу!» – сказал профессор.

• Ранее мы рассказывали, что аферист требовал у женщины миллион долларов за ее похищенную дочь. В подтверждение ситуации он даже дал трубку ребенку. Однако на самом деле голос клонировали с помощью искусственного интеллекта.