Повлияет на студентов и кандидатов на работу. Тексты не носителей английского языка ошибочно обозначаются как сгенерированные ИИ

Специальные программы для определения ИИ-контента ошибочно обозначают как сгенерированный текст, написанный человеком, для которого английский язык не является родным. Об этом пишет The Guardian.

Young exhausted woman sitting at the desk with laptop tiredly holding hand near head at work in modern office

Ученые Стэнфордского университета проверили 91 эссе на английском, авторы которых не были носителями этого языка. Для анализа исследователи использовали самые популярные детекторы ИИ.

В результате программы показали, что более половины эссе сгенерировал искусственный интеллект. Один сервис вообще показал, что технология работала над 98% предложенных текстов. В то время как тексты, написанные носителями английского языка, детекторы обозначали как созданные человеком (свыше 90%).

Исследователи полагают, что проблема состоит в сложности текста. Если детектор может предсказать следующее слово, значит, это легкий текст, если нет – высокой сложности. Инструменты искусственного интеллекта обычно генерируют контент низкого уровня сложности. Соответственно программы часто определяют более легкие тексты как те, над которыми работал ИИ, а не человек.

Поэтому у тех, для кого английский не является родным, могут возникнуть проблемы, поскольку они чаще выбирают обычные слова и простые шаблоны. Соответственно, детекторы ИИ могут обозначить их тексты как сгенерированные ботами.

Интересно, что дальше ученые попросили ChatGPT переписать некоторые эссе более сложными словами. После этого программы классифицировали их как написанные человеком. Парадоксально, что люди, не являющиеся носителями определенного языка, теперь могут чаще использовать ИИ для того, чтобы их работу не отнесли к категории сгенерированных.

Это негативно повлияет на студентов, ученых и соискателей работы, поскольку их заявки и статьи могут восприниматься как созданные ИИ, если английский не является родным для них.

• Раньше мы рассказывали, что треть украинцев вообще не знает, что такое искусственный интеллект.