Навіщо це взагалі потрібно? Нейромережа Style Asian Less робить азійців більше схожими на європейців

Прихильники генеративного штучного інтелекту не полишають спроб вдосконалювати можливості нейромереж та адаптувати їх до певних культурних особливостей. Так, нещодавно на сайті мистецької спільноти AI Civitai з’явився новий продукт зі штучним інтелектом Style Asian Less, який допомагає зробити зовнішність персонажів «менш азійською». Редакція MC.today переповідає, навіщо це потрібно, з посиланням на Vice.

February 5, 2023, Mirissa, Sri Lanka. Using Midjourney on phone. Woman creates images from textual descriptions with photo generator. Person creating pictures via neural network online close-up.

Style Asian Less вже завантажили понад 2 тисячі разів. Зазвичай програму використовують у тандемі з нейромережею Stable Diffusion, яка на відміну від DALL-E від OpenAI безплатна та має відкритий вихідний код. Користувачі штучного інтелекту тренують його для досягнення певної естетики, а ці згенеровані зображення застосовують для подальшого навчання ШІ.

Доступність та доволі широкі можливості Stable Diffusion зробили цю нейромережу надзвичайно популярною, зокрема, з-поміж ентузіастів у Східній півкулі, де проживає більшість населення Землі. Тому й культурний вплив на генерацію зображень доволі очікуваний та зрозумілий: ШІ вже створив багато персонажів, схожих на азійців чи стилізованих, наприклад, під аніме чи мангу.

Розробниця із ніком Zovya, котра випустила Style Asian Less, не вбачає в цьому нічого поганого. Проте вона зазначила, що цей вплив та особливості навчання роблять дедалі важчим отримання результатів, які не містили б елементів, скажімо, аніме.

Asian Less' AI Model Turns Asian People White – https://t.co/ZPOTvE3ju0#Technology #Vice pic.twitter.com/k4hIrr3k3d

— Bytefeed (@bytefeedai) May 2, 2023

Style Asian Less – це своєрідне нагадування про те, як працюють інструменти ШІ. Вони не думають і не генерують власні ідеї, а просто використовують можливості прогнозування для зміни даних, на яких навчаються. Тобто що більше в пам’яті нейромережі певного контенту, то більше вона схильна до створення схожих зображень.

До речі, дослідники ШІ вже не вперше вказують на расову та гендерну упередженість інструментів на його основі. Наприклад, перша версія DALL-E частіше генерувала зображення білих чоловіків, коли йшлося про високопосадовців різного рангу. Водночас медсестер чи асистентів ШІ здебільшого уявляв темношкірими або вихідцями з Латинської Америки. У 2022 році багато жінок азійського походження повідомляли про те, що мобільний застосунок для селфі Lensa, до речі, створений російськими розробниками, нерідко сексуалізував їхні фото.

За словами Zovya, релізу Style Asian Less передувала розробка іншого продукту South of the Border. Вона намагалась охопити людей і культуру Південної Америки, проте в результатах чітко простежувався вже відомий нам «азійський слід». Тому вона створила програму, яка могла б це виправити, тобто зменшити вплив контенту, який зараз домінує. Style Asian Less не змінює «расу» людини, зображення якої генерує, а коригує параметри підказок та допомагає зробити нейромережу більш гнучкою та точною у відтворенні результатів. Хоча Zovya і припускає, що спроби зменшити культурну упередженість ШІ також можуть викликати критику спільноти.

• Нагадаємо, компанія Stability AI, яка створила Stable Diffusion, нещодавно випустила конкурента ChatGPT з відкритим кодом. Також пропонуємо вам почитати про програму перетворення тексту на відео від Runway.