В Китае тиражировали выдуманную искусственным интеллектом новость об аварии на железной дороге. Кому это было нужно

Китайская полиция задержала местного мужчину по подозрению в создании и распространении фейковых новостей с помощью искусственного интеллекта. В КНР это может стать первым случаем привлечения к ответственности за использование умного чат-бота, пишет South China Morning Post (SCMP).

Внимание киберотдела окружного полицейского бюро привлекла фейковая статья о том, что в конце апреля местный поезд попал в аварию, вследствие которой якобы погибли девять пассажиров. Этот материал одновременно распространили примерно 20 аккаунтов популярной платформы Baijiahao, которой управляет китайский поисковый гигант Baidu.

Полиция отследила происхождение фейковых статей и вышла на компанию мужчины по имени Хонг. Он руководил медиа-платформами, зарегистрированными в Шэньчжэне в провинции Гуандун на юге Китая. Мужчина признался, что в свое время купил несколько аккаунтов и нашел способ обходить алгоритмы проверки Baijiahao. Для создания фейковых статей Хонг пользовался запрещенным в КНР ChatGPT. Зачем он распространял информацию о выдуманной катастрофе, официальные лица не сообщили. Но мужчину могут приговорить к заключению сроком до 5 или даже 10 лет, если докажут, что у его преступления могли быть обременяющие обстоятельства.

Стоит отметить, что в Китае еще в январе ввели так называемое Административное положение об использовании технологий глубинного синтеза. Оно регулирует создание контента и продуктов с использованием технологий машинного обучения и дополненной реальности. Все тексты, изображения, видео и аудио такого происхождения, которые попадают в сеть, следует надлежащим образом маркировать, чтобы не вводить пользователей в заблуждение.

• Ранее мы рассказывали, как на новостных ресурсах использовали  фейковых дикторов для распространения дезинформации. Также предлагаем вам почитать о том, как злоумышленники используют поддельный ChatGPT.