Если не знает, то придумает. Исследование показало, что ChatGPT дает неправильные ответы о здоровье

remote job, technology and people concept – tired or stressed young woman with laptop computer working at home office

С запуском ChatGPT многие люди начали его использовать для различных задач: от написания эссе до получения советов по здоровью. Однако в этом есть опасность. Исследование показало, что чат-бот дает неправильные ответы на вопросы, касающиеся здоровья, в частности рака. Об этом пишет Daily Mail.

Помогаем

Поможем врагу с билетами на Кобзона. Собираем на Mavic для наших защитников

Исследователи из Медицинского центра Университета Мэриленда попросили ChatGPT ответить на 25 вопросов о прохождении скрининга рака груди. Поскольку он может изменять свой ответ, то вопросы задавались трижды.

Врачи пришли к выводу, что большинство ответов были уместны и просты для понимания. Однако некоторые были «неточными или даже вымышленными». Таким образом, чат-бот ответил неправильно на каждый десятый вопрос.

Один ответ, например, базировался на устаревшей информации. Также ChatGPT предоставлял противоречивые ответы на вопросы: они «существенно отличались» каждый раз, когда врачи указывали тот же запрос.

Выводы исследования также показали, что зачастую самостоятельный поиск в интернете может дать более исчерпывающую информацию, чем чат-бот. Хотя, конечно, все равно нужно консультироваться с настоящим врачом, а не ИИ.

Кроме этого, чат-бот даже придумывал какую-то информацию, чтобы доказать свою правоту. Исследователи отметили, что он ссылался на фейковые статьи, якобы подтверждающие его слова.

Разработчики уже предупреждали пользователей о том, что они должны относиться к чат-боту достаточно осторожно и придирчиво. Дело в том, что ChatGPT, как и некоторые другие программы, могут подвергаться «галлюцинациям». Другими словами, придумывать то, чего на самом деле не существует. А потом бот постоянно настаивает на неправильном ответе, не осознавая, что это продукт его собственного «воображения».

Например, недавно ми рассказивали, что чат-бот спорил с человеком и доказывал ему, что сейчас 2022 год.