Дослідниця ШІ розповіла, чому не варто довіряти детекторам, які перевіряють авторство текстів

Докторка інженерії, дослідниця штучного інтелекту та авторка блогу AI Weirdness Джанель Шейн розповіла, чому не варто покладатися на програми, які повинні визначати оригінальність тексту та те, чи не згенерували його за допомогою нейромереж та чат-ботів. Редакція MC.today переказує деталі.

3D illustration of robot humanoid reading book in concept of future artificial intelligence and 4th fourth industrial revolution .

Джанель Шейн звернула увагу на нещодавнє дослідження Стенфордського університету, присвячене продуктам, які виявляють згенерований штучним інтелектом контент. За даними фахівців, такі програми часто неправильно ідентифікують створені ШІ тексти як написані людиною та навпаки.

Під час дослідження аналізували переважно англомовний контент та виявили ще одне цікаве упередження штучного інтелекту. Він нерідко вважає, що текст створила нейромережа, якщо англійська для автора не рідна. Тобто за певними параметрами він сприймає справжню людину як мовну модель.

У 2019 році Шейн випустила власну книгу You Look Like a Thing and I Love You («Ти виглядаєш як річ, і я люблю тебе»), присвячену алгоритмам штучного інтелекту та його майбутньому. Вона вирішила скористатися кількома детекторами та перевірити фрагменти тексту з неї.

Одна з програм позначила уривок як «з дуже великою ймовірністю згенерований штучним інтелектом». Інша, яка, за даними дослідників зі Стенфорда, помилялась найменше, також схилялася до авторства ШІ. Втім, одне речення вона позначила як схоже на написане людиною. В ньому авторка пропонувала читачам уявити бутерброд із «джемом, кубиками льоду та старими шкарпетками».

Потім Шейн попросила ChatGPT перетворити фрагмент її оригінального тексту на вірш староанглійською мовою. Детектори позначили його як «з великою ймовірністю написаний людиною».

Джанель Шейн залишається ентузіасткою штучного інтелекту і впевнена, що багато продуктів на його основі здатні змінити життя людей на краще. Втім, експеримент із детекторами довів, що розробники повинні зважати на проблеми ідентифікації та не випускати недосконалі або упереджені продукти.

• Ми також розповідали, що штучний інтелект досі часом спотворює та навіть вигадує факти. Так, він звинуватив австралійського політика в пов’язаному із хабарництвом скандалі та стверджував, що відомий радіоведучий привласнив чужі кошти.