OpenAI використовувала малооплачувану працю, щоб зробити ChatGPT менш токсичним

Лабораторія досліджень штучного інтелекту Ope­nAI використовувала роботу кенійських працівників за менш як $2 на годину за фільтрацію тисяч рядків неприйнятного тексту, щоб зробити чат-бот Chat­G­PT безпечнішим для використання. Про це з посиланням на розслідування Time пише MC.today.

Штучний інтелект навчається на матеріалах з інтернету, через що може генерувати неприйнятні тексти. Так і було з попередником Chat­G­PT – GPT‑3. «Очистити» текст вручну не можна: команді із сотні людей знадобилися б десятиліття для цього. Щоб запустити Chat­G­PT, Ope­nAI потрібен був спосіб швидко переглянути та позначити всі токсичні тексти зі свого набору даних.

Щоб відфільтрувати дані Ope­nAI співпрацювала із Sama. Компанія стверджує, що надає країнам, що розвиваються, «етичну» та «гідну цифрову роботу» для виявлення та позначення токсичного вмісту. Для цього найняли модераторів із Кенії.

Хоча вони зробили значний вклад у безпечну роботу Chat­G­PT, кенійські працівники стикалися з виснажливими умовами та низькою оплатою. Один з них сказав Time, що страждав від повторюваних видінь після перегляду травматичного контенту, та назвав цю роботу тортурами. За дев’ятигодинну зміну модератор мав опрацювати від 150 до 250 уривків тексту, при цьому зарплата складала від $1,32 до $2 на годину.

Згідно з розслідуванням Time, Ope­nAI підписала із Sama три контракти на загальну суму близько $200 тисяч. Також зазначалось, що Ope­nAI платитиме Sama за роботу $12,5 за годину.

Зрештою Sama скасувала роботу з Ope­nAI у лютому 2022 року, на вісім місяців раніше запланованого. Це пов’язують із травматичністю роботи, а також із публікацією звіту Time про співпрацю Sama і Meta. Тоді модератори контенту, які працювали за $1,5 на годину, отримали психотравми після перегляду насильницьких зображень та відео.

Що відповіли Sama та OpenAI

Sama заявила, що працівників просили опрацьовувати по 70 фрагментів тексту, а не 250. А зарплати становили від $1,46 до $3,74 за годину після вирахування податків. Ставка $12,5 на годину, яка вказувалася в контракті, містила всі витрати компанії, а не лише зарплати. Представник компанії додав, що модератори могли відвідувати психотерапевта.

В Ope­nAI підтвердили співпрацю. Проте зазначили, що не ставили ніяких вимог щодо продуктивності, а за психологічне здоров’я працівників відповідала Sama.

Чат-бот Chat­G­PT став популярним інструментом для написання різних текстів. Однак українці досі не мають до нього доступу. Ope­nAI вже відповіли, чому заборонили доступ до своїх продуктів на території України. Про це можна прочитати за посиланням.