россия может использовать ChatGPT в войне против Украины. Как не попасться на крючок

Юлія Фещенко

Редакторка новин MC.today

Популярный чат-бот ChatGPT с момента своего релиза был и остается заблокированным для украинцев, и у компании-разработчика есть веские причины для этого. Впрочем, изобретательные энтузиасты нашли по меньшей мере три способа, как пользоваться новинкой, несмотря на ограничения. Но самая большая проблема остается: его могут использовать в войне против Украины россияне. Как именно – разбирались журналисты DOU с помощью CEO DevRain Александра Краковецкого, специалиста по кибербезопасности Константина Корсуна и CTO Master of Code Global Богдана Сергиенко. Редакция MC.today передает подробности.

A Ukrainian military man holds the national flag in his hands as a symbol of strong. War in Ukraine. Day of the Cossacks and Defender of Ukraine.

Чат-бот с искусственным интеллектом быстро обрабатывает большие массивы информации и генерирует правдоподобные тексты. 

Враг может использовать его по меньшей мере тремя способами.

1. Фишинговые рассылки для сбора информации. Чат-бот можно научить писать стилизованные тексты, то есть они могут выглядеть как созданные реальным и довольно конкретным человеком. Вероятно, их будут использовать для фишинговых рассылок с целью получения конфиденциальной информации, например, паролей от учетных записей, или для сбора данных о местонахождении техники или личного состава ВСУ.
2. Распространение пропаганды. Поскольку ChatGPT создает контент с большой скоростью, количество пропагандистских материалов увеличится. К тому же не только в россии и Украине, но и в других странах, поскольку чат-бот знает довольно много языков.
3. Генерация фейков и ИПСО. ChatGPT пишет правдоподобные, грамотные и хорошо структурированные тексты. Опять же, с большой скоростью. Чем лучше написанный текст, тем больше времени требуется на проверку его правдивости и актуальности. Следовательно, количество вбросов с выдуманными фактами, которые так любят генерировать оккупанты, может также увеличиться.

Стоит отметить, что ChatGPT обучали на основе информации из открытых источников, но только до 2021 года включительно. То есть он вряд ли что-то знает о вторжении и преступлениях оккупантов, на большинство вопросов отвечает что-то вроде «не все так однозначно» и воспринимает войну с россией в контексте АТО.

Александр Краковецкий отметил, что любую информацию, которую мы получаем, нужно тщательно проверять. Это должно стать привычкой каждого.

Константин Корсун считает, что люди переоценивают способности ChatGPT. Он все еще допускает много элементарных ошибок, а критическое мышление помогает нам отличать правду от фейков на интуитивном уровне.

Специалисты считают, что эффективно противодействовать использованию ChatGPT в войне против украинцев можно только системно. Например, разработать механизмы и программы, которые будут круглосуточно проверять и выявлять фейки, вредные нарративы, пропаганду и так далее. Инструменты на основе искусственного интеллекта способны с этим справиться. Как и отслеживать, кто публикует и распространяет такой контент.

Отметим, что ВСУ тоже используют искусственный интеллект на войне, особенно в разведке, как отметил Богдан Сергиенко. Такие продукты помогают перехватывать разговоры оккупантов, выявлять вражеские позиции и воздушные цели, идентифицировать россиян, собирать и обрабатывать большие массивы данных и так далее. Хотя полностью полагаться на ИИ военные не могут, он экономит им много времени.

• Также предлагаем вам почитать, как ВСУ используют систему распознавания лиц Clearview AI и как искусственный интеллект впервые пилотировал тактический бомбардировщик.