В Китаї розповсюдили вигадану штучним інтелектом новину про аварію на залізниці. Кому це було потрібно

Китайська поліція затримала місцевого чоловіка за підозрою в створенні та розповсюдженні фейкових новин за допомогою штучного інтелекту. У КНР це може бути першим випадком притягнення до відповідальності за використання розумного чат-бота, пише South China Morning Post (SCMP).

Увагу кібервідділу окружного поліційного бюро привернула фейкова стаття про те, що наприкінці квітня місцевий потяг потрапив в аварію, внаслідок якої нібито загинуло дев’ятеро пасажирів. Цей матеріал одночасно поширили приблизно 20 облікових записів популярної платформи Baijiahao, якою керує китайський пошуковий гігант Baidu.

Поліція відстежила походження фейкових статей та вийшла на компанію чоловіка на ім’я Хонг. Він керував медіаплатформами, зареєстрованими в Шеньчжені в провінції Гуандун на півдні Китаю. Чоловік зізнався, що свого часу придбав кілька облікових записів та знайшов спосіб обходити алгоритми перевірки Baijiahao. Для створення фейкових статей Хонг користувався забороненим у КНР ChatGPT. Навіщо він поширював інформацію про вигадану катастрофу, офіційні особи не повідомили. Проте чоловіка можуть засудити до ув’язнення терміном до 5 або й 10 років, якщо доведуть, що його злочин має обтяжливі обставини.

Варто зазначити, що в Китаї ще в січні цього року ввели так зване Адміністративне положення про використання технологій глибинного синтезу. Воно регулює створення контенту та продуктів із використанням технологій машинного навчання та доповненої реальності. Всі тексти, зображення, відео та аудіо такого походження, що потрапляють у мережу, потрібно належним чином маркувати, аби не вводити користувачів в оману.

• Раніше ми розповідали, що новинні ресурси використовували фейкових дикторів для розповсюдження дезінформації. Також пропонуємо вам почитати про те, як зловмисники використовують підроблений ChatGPT.