В Китае тиражировали выдуманную искусственным интеллектом новость об аварии на железной дороге. Кому это было нужно

Китайская полиция задержала местного мужчину по подозрению в создании и распространении фейковых новостей с помощью искусственного интеллекта. В КНР это может стать первым случаем привлечения к ответственности за использование умного чат-бота, пишет South Chi­na Morn­ing Post (SCMP).

Frus­trat­ed stressed busi­ness­man work in evening office Cau­casian mid­dle-aged man fail lose online project on com­put­er lost busi­ness bank­rupt­cy fail­ure lost job des­per­ate anx­ious male los­ing prob­lem. High qual­i­ty 4k footage

Внимание киберотдела окружного полицейского бюро привлекла фейковая статья о том, что в конце апреля местный поезд попал в аварию, вследствие которой якобы погибли девять пассажиров. Этот материал одновременно распространили примерно 20 аккаунтов популярной платформы Bai­ji­a­hao, которой управляет китайский поисковый гигант Baidu.

Полиция отследила происхождение фейковых статей и вышла на компанию мужчины по имени Хонг. Он руководил медиа-платформами, зарегистрированными в Шэньчжэне в провинции Гуандун на юге Китая. Мужчина признался, что в свое время купил несколько аккаунтов и нашел способ обходить алгоритмы проверки Bai­ji­a­hao. Для создания фейковых статей Хонг пользовался запрещенным в КНР Chat­G­PT. Зачем он распространял информацию о выдуманной катастрофе, официальные лица не сообщили. Но мужчину могут приговорить к заключению сроком до 5 или даже 10 лет, если докажут, что у его преступления могли быть обременяющие обстоятельства.

Стоит отметить, что в Китае еще в январе ввели так называемое Административное положение об использовании технологий глубинного синтеза. Оно регулирует создание контента и продуктов с использованием технологий машинного обучения и дополненной реальности. Все тексты, изображения, видео и аудио такого происхождения, которые попадают в сеть, следует надлежащим образом маркировать, чтобы не вводить пользователей в заблуждение.

• Ранее мы рассказывали, как на новостных ресурсах использовали  фейковых дикторов для распространения дезинформации. Также предлагаем вам почитать о том, как злоумышленники используют поддельный Chat­G­PT.