«Ми більше не знаємо, що таке реальність». Як технологічні компанії допомагають виявляти зображення, створені ШІ

Генеративний штучний інтелект навчився створювати реалістичні візуалізації, здатні ввести в оману мільйони людей. Наприклад, нещодавно в мережі поширили зображення нібито вибуху в Пентагоні. У нього були всі ознаки «штучності», але користувачі інтернету створили справжню паніку. Тому технологічні компанії працюють над інструментами, які допомагають виявляти згенеровані ШІ фейки, пише CNN.

Генеральний директор компанії Truepic Джеффрі МакГрегор вважає це верхівкою айсберга й застерігає, що людство не готове до тієї кількості згенерованих ШІ матеріалів, які вже скоро заповнять соцмережі. Тому його команда пропонує технологію, що автентифікує медіа на момент створення за допомогою Truepic Lens. Застосунок визначає дату, час, місце та пристрій, який використовувався для створення зображення, і застосовує цифровий підпис, щоби перевірити його на оригінальність.

Такі технічні компанії, як Truepic, роками працюють над боротьбою з дезінформацією в інтернеті. Але поява нових інструментів штучного інтелекту, які можуть швидко створювати переконливі зображення та тексти за запитами користувачів, змушує розробників докладати ще більше зусиль.

Частина з них зосередилася на створенні програм ідентифікації зображень, які згенерував ШІ. Reality Defender і Hive Moderation, наприклад, розробили платформи, на які можна завантажувати медіафайли. Вони практично миттєво дають розбивку з відсотками, які вказують на ймовірність того, реальні зображення чи згенеровані ШІ. Reality Defender, наприклад, ще пропонує власну технологію глибокого аналізу контенту для виявлення створених штучним інтелектом відео, аудіо та зображень.

У рамках іншого превентивного підходу деякі великі технологічні компанії працюють над мітками на кшталт водяних знаків, щоб сертифікувати медіафайли як справжні або згенеровані штучним інтелектом. Вони об’єдналися в Коаліцію за походження та автентичність вмісту (C2PA). До неї входять, зокрема, Truepic, Intel, Sony, Adobe та Project Origin (ініціатива Microsoft і BBC, яка бореться з дезінформацією в цифрових новинах). Вони створюють продукти з відкритим програмним кодом для аналізу вмісті та метаданих медіафайлів.

Наприклад, інструмент для створення зображень зі штучним інтелектом Adobe Firefly, який нещодавно додали в Photoshop, стандартизує облікові дані вмісту зображень. Microsoft також оголосила, що згенеровані в Bing Image Creator і Microsoft Designer зображення вже незабаром маркуватимуть криптографічним підписом.

Інші технологічні компанії намагаються поєднати ці два підходи. Google, наприклад, анонсувала інструмент About this image. Він надає інформацію про те, коли пошуковик проіндексував зображення, де його можна знайти в інтернеті та на яких сайтах воно могло з’явитися вперше. У майбутньому розробники таких програм та застосунків, ймовірно, співпрацюватимуть із соцмережами по всьому світу, щоби знизити інтенсивність поширення фейків та дезінформації.

  • Нагадаємо, ми розповідали, що штучний інтелект навчили знаходити та переписувати оманливі заголовки.

Нещодавні статті

Що буде з цінами на житло в Україні та чи варто купувати його зараз – юрист з нерухомості

Юрист із нерухомості Володимир Копоть поділився очікуваннями щодо того, як в Україні можуть змінюватися ціни…

30/06/2025

Курс євро йде вгору: як зберегти свої заощадження

Курс євро в Україні продовжує зростати й досяг рекордного рівня 48,78 грн/євро (станом на 30…

30/06/2025

Tech360 у Києві: український ChatGPT, прорив в ІТ-освіті та залучення ветеранів до технологічного сектору

У Києві відбулась одна з наймасштабніших ІТ-подій року – Tech360: Policy, Talents & Growth, організована…

30/06/2025

Фінансова подушка на старість – як поєднати вклади в НПФ із самостійними інвестиціями і навіщо це робити

Уявіть, що ваші майбутні пенсійні виплати – це фортеця. Щоб витримувати випробування, її фундамент має…

30/06/2025

Що буде, якщо три місяці записувати всі свої витрати – розповідає психологиня

Запис витрат – це не просто нудна звичка, а психологічний інструмент, який може змінити ваше…

27/06/2025

Навіть без купівлі фізичного металу. Фінансист назвав чотири способи інвестувати в золото

Український фінансист, партнер iPlan.ua та засновник соціального проєкту «Сімейний Бюджет» Любомир Остапів розповів про чотири…

27/06/2025