OpenAI использовала малооплачиваемый труд, чтобы сделать ChatGPT менее токсичным

Лаборатория исследований искусственного интеллекта OpenAI использовала труд кенийских работников за менее $2 в час для фильтрации тысяч строк неприемлемого текста, чтобы сделать ChatGPT безопаснее для использования. Об этом со ссылкой на расследование Time пишет MC.today.

Искусственный интеллект учится на материалах из интернета, из-за чего может генерировать неприемлемые тексты. Так и было с предшественником ChatGPT – GPT-3. «Очистить» текст вручную нельзя: команде из сотни человек понадобилось бы десятилетие для этого. Чтобы запустить ChatGPT, OpenAI потребовался способ быстро просмотреть и отметить все токсичные тексты из своего набора данных.

Чтобы отфильтровать данные, OpenAI сотрудничала с Sama. Компания утверждает, что предоставляет развивающимся странам «этическую» и «достойную цифровую работу» для выявления и обозначения токсических данных. Для этого наняли модераторов из Кении.

Хотя они внесли значительный вклад в безопасную работу ChatGPT, кенийские работники сталкивались с изнурительными условиями и низкой оплатой. Один из них сказал Time, что страдал от повторяющихся видений после просмотра травматического контента, и назвал эту работу пыткой. За девятичасовую смену модератору предстояло отработать от 150 до 250 отрывков текста, при этом зарплата составляла от $1,32 до $2 в час.

Согласно расследованию Time, OpenAI подписала с Sama три контракта на общую сумму около $200 тысяч. Также отмечалось, что OpenAI будет платить Sama за работу $12,5 в час.

В конце концов, Sama отменила работу с OpenAI в феврале 2022 года, на восемь месяцев ранее запланированного. Это связано с травматичностью работы, а также с публикацией отчета Time о сотрудничестве Sama и Meta. Тогда модераторы контента, работавшие за $1,5 в час, получили психотравмы после просмотра насильственных изображений и видео.

Что ответили Sama и OpenAI

Sama заявила, что работников просили фильтровать по 70 фрагментов текста, а не 250. А зарплаты составляли от $1,46 до $3,74 в час после вычета налогов. Ставка $12,5 в час, указываемая в контракте, содержала все расходы компании, а не только зарплаты. Представитель компании добавил, что модераторы могли посещать психотерапевта.

В OpenAI подтвердили сотрудничество. Однако отметили, что не предъявляли никаких требований к производительности, а за психологическое здоровье работников отвечала Sama.

Чат-бот ChatGPT стал популярным инструментом для написания разных текстов. Однако украинцы до сих пор не имеют к нему доступа. OpenAI уже ответили, почему запретили доступ к своим продуктам на территории Украины. Об этом можно прочитать по ссылке.