«Ми більше не знаємо, що таке реальність». Як технологічні компанії допомагають виявляти зображення, створені ШІ

Юлія Фещенко

Редакторка новин MC.today

Генеративний штучний інтелект навчився створювати реалістичні візуалізації, здатні ввести в оману мільйони людей. Наприклад, нещодавно в мережі поширили зображення нібито вибуху в Пентагоні. У нього були всі ознаки «штучності», але користувачі інтернету створили справжню паніку. Тому технологічні компанії працюють над інструментами, які допомагають виявляти згенеровані ШІ фейки, пише CNN.

Generative AI illustration of Cyborg Ai robot artist in dark studio next to his easel, painting and paints while working, neural network generated art. Digitally painting, generated image.

Генеральний директор компанії Truepic Джеффрі МакГрегор вважає це верхівкою айсберга й застерігає, що людство не готове до тієї кількості згенерованих ШІ матеріалів, які вже скоро заповнять соцмережі. Тому його команда пропонує технологію, що автентифікує медіа на момент створення за допомогою Truepic Lens. Застосунок визначає дату, час, місце та пристрій, який використовувався для створення зображення, і застосовує цифровий підпис, щоби перевірити його на оригінальність.

Такі технічні компанії, як Truepic, роками працюють над боротьбою з дезінформацією в інтернеті. Але поява нових інструментів штучного інтелекту, які можуть швидко створювати переконливі зображення та тексти за запитами користувачів, змушує розробників докладати ще більше зусиль.

Частина з них зосередилася на створенні програм ідентифікації зображень, які згенерував ШІ. Reality Defender і Hive Moderation, наприклад, розробили платформи, на які можна завантажувати медіафайли. Вони практично миттєво дають розбивку з відсотками, які вказують на ймовірність того, реальні зображення чи згенеровані ШІ. Reality Defender, наприклад, ще пропонує власну технологію глибокого аналізу контенту для виявлення створених штучним інтелектом відео, аудіо та зображень.

У рамках іншого превентивного підходу деякі великі технологічні компанії працюють над мітками на кшталт водяних знаків, щоб сертифікувати медіафайли як справжні або згенеровані штучним інтелектом. Вони об’єдналися в Коаліцію за походження та автентичність вмісту (C2PA). До неї входять, зокрема, Truepic, Intel, Sony, Adobe та Project Origin (ініціатива Microsoft і BBC, яка бореться з дезінформацією в цифрових новинах). Вони створюють продукти з відкритим програмним кодом для аналізу вмісті та метаданих медіафайлів.

Наприклад, інструмент для створення зображень зі штучним інтелектом Adobe Firefly, який нещодавно додали в Photoshop, стандартизує облікові дані вмісту зображень. Microsoft також оголосила, що згенеровані в Bing Image Creator і Microsoft Designer зображення вже незабаром маркуватимуть криптографічним підписом.

Інші технологічні компанії намагаються поєднати ці два підходи. Google, наприклад, анонсувала інструмент About this image. Він надає інформацію про те, коли пошуковик проіндексував зображення, де його можна знайти в інтернеті та на яких сайтах воно могло з’явитися вперше. У майбутньому розробники таких програм та застосунків, ймовірно, співпрацюватимуть із соцмережами по всьому світу, щоби знизити інтенсивність поширення фейків та дезінформації.

• Нагадаємо, ми розповідали, що штучний інтелект навчили знаходити та переписувати оманливі заголовки.