россия может использовать ChatGPT в войне против Украины. Как не попасться на крючок

Популярный чат-бот Chat­G­PT с момента своего релиза был и остается заблокированным для украинцев, и у компании-разработчика есть веские причины для этого. Впрочем, изобретательные энтузиасты нашли по меньшей мере три способа, как пользоваться новинкой, несмотря на ограничения. Но самая большая проблема остается: его могут использовать в войне против Украины россияне. Как именно – разбирались журналисты DOU с помощью CEO DevRain Александра Краковецкого, специалиста по кибербезопасности Константина Корсуна и CTO Mas­ter of Code Glob­al Богдана Сергиенко. Редакция MC.today передает подробности.

A Ukrain­ian mil­i­tary man holds the nation­al flag in his hands as a sym­bol of strong. War in Ukraine. Day of the Cos­sacks and Defend­er of Ukraine.

Чат-бот с искусственным интеллектом быстро обрабатывает большие массивы информации и генерирует правдоподобные тексты. 

Враг может использовать его по меньшей мере тремя способами.

1. Фишинговые рассылки для сбора информации. Чат-бот можно научить писать стилизованные тексты, то есть они могут выглядеть как созданные реальным и довольно конкретным человеком. Вероятно, их будут использовать для фишинговых рассылок с целью получения конфиденциальной информации, например, паролей от учетных записей, или для сбора данных о местонахождении техники или личного состава ВСУ.
2. Распространение пропаганды. Поскольку Chat­G­PT создает контент с большой скоростью, количество пропагандистских материалов увеличится. К тому же не только в россии и Украине, но и в других странах, поскольку чат-бот знает довольно много языков.
3. Генерация фейков и ИПСО. Chat­G­PT пишет правдоподобные, грамотные и хорошо структурированные тексты. Опять же, с большой скоростью. Чем лучше написанный текст, тем больше времени требуется на проверку его правдивости и актуальности. Следовательно, количество вбросов с выдуманными фактами, которые так любят генерировать оккупанты, может также увеличиться.

Стоит отметить, что Chat­G­PT обучали на основе информации из открытых источников, но только до 2021 года включительно. То есть он вряд ли что-то знает о вторжении и преступлениях оккупантов, на большинство вопросов отвечает что-то вроде «не все так однозначно» и воспринимает войну с россией в контексте АТО.

Александр Краковецкий отметил, что любую информацию, которую мы получаем, нужно тщательно проверять. Это должно стать привычкой каждого.

Константин Корсун считает, что люди переоценивают способности Chat­G­PT. Он все еще допускает много элементарных ошибок, а критическое мышление помогает нам отличать правду от фейков на интуитивном уровне.

Специалисты считают, что эффективно противодействовать использованию Chat­G­PT в войне против украинцев можно только системно. Например, разработать механизмы и программы, которые будут круглосуточно проверять и выявлять фейки, вредные нарративы, пропаганду и так далее. Инструменты на основе искусственного интеллекта способны с этим справиться. Как и отслеживать, кто публикует и распространяет такой контент.

Отметим, что ВСУ тоже используют искусственный интеллект на войне, особенно в разведке, как отметил Богдан Сергиенко. Такие продукты помогают перехватывать разговоры оккупантов, выявлять вражеские позиции и воздушные цели, идентифицировать россиян, собирать и обрабатывать большие массивы данных и так далее. Хотя полностью полагаться на ИИ военные не могут, он экономит им много времени.

• Также предлагаем вам почитать, как ВСУ используют систему распознавания лиц Clearview AI и как искусственный интеллект впервые пилотировал тактический бомбардировщик.