В Китае тиражировали выдуманную искусственным интеллектом новость об аварии на железной дороге. Кому это было нужно

Китайская полиция задержала местного мужчину по подозрению в создании и распространении фейковых новостей с помощью искусственного интеллекта. В КНР это может стать первым случаем привлечения к ответственности за использование умного чат-бота, пишет South China Morning Post (SCMP).

Frustrated stressed businessman work in evening office Caucasian middle-aged man fail lose online project on computer lost business bankruptcy failure lost job desperate anxious male losing problem. High quality 4k footage

Внимание киберотдела окружного полицейского бюро привлекла фейковая статья о том, что в конце апреля местный поезд попал в аварию, вследствие которой якобы погибли девять пассажиров. Этот материал одновременно распространили примерно 20 аккаунтов популярной платформы Baijiahao, которой управляет китайский поисковый гигант Baidu.

Полиция отследила происхождение фейковых статей и вышла на компанию мужчины по имени Хонг. Он руководил медиа-платформами, зарегистрированными в Шэньчжэне в провинции Гуандун на юге Китая. Мужчина признался, что в свое время купил несколько аккаунтов и нашел способ обходить алгоритмы проверки Baijiahao. Для создания фейковых статей Хонг пользовался запрещенным в КНР ChatGPT. Зачем он распространял информацию о выдуманной катастрофе, официальные лица не сообщили. Но мужчину могут приговорить к заключению сроком до 5 или даже 10 лет, если докажут, что у его преступления могли быть обременяющие обстоятельства.

Стоит отметить, что в Китае еще в январе ввели так называемое Административное положение об использовании технологий глубинного синтеза. Оно регулирует создание контента и продуктов с использованием технологий машинного обучения и дополненной реальности. Все тексты, изображения, видео и аудио такого происхождения, которые попадают в сеть, следует надлежащим образом маркировать, чтобы не вводить пользователей в заблуждение.

• Ранее мы рассказывали, как на новостных ресурсах использовали  фейковых дикторов для распространения дезинформации. Также предлагаем вам почитать о том, как злоумышленники используют поддельный ChatGPT.