Искусственный интеллект от Google «врет» о качестве воздуха в Америке

На этой неделе в Канаде бушуют лесные пожары, из-за чего значительно ухудшилось качество воздуха и в соседних США. В нескольких крупных городах, таких как Нью-Йорк и Филадельфия, жителей даже призвали как можно меньше времени проводить на улице. Впрочем, если они надеются узнать индекс загрязнения в Google, то доверять информации не стоит, пишет The Byte.

Недавно компания начала тестировать искусственный интеллект Search Generative Experience (SGE). Это экспериментальная функция поиска, которая должна предоставлять наиболее актуальную информацию по запросу пользователя. Впрочем, когда журналисты спросили у SGE о качестве воздуха, ИИ выдал неправдивые данные. Фактически он опирался на устаревшие показатели и сообщил о значительно меньшем индексе загрязненности, чем специализированные организации.

Стоит отметить, что бот добавил в список ссылок сайт правительства США, на котором постоянно обновляется информация о качестве воздуха. Но он все равно более чем в десять раз занизил фактический показатель.

Журналисты поэкспериментировали с формулировками запросов, но даже очень точные не приблизили SGE к правильному ответу. То есть, можно предположить, что ИИ пока не может согласовать противоречивую информацию, которую находит в интернете, а потому не пригоден для использования.

Отметим, что поскольку SGE – экспериментальная программа, в Google предупредили о том, что результаты поиска могут быть неточными, а качество информации нужно дополнительно проверять. Кажется, это еще раз доказывает, что с интеграцией генеративного искусственного интеллекта в продукты, которыми каждый день пользуются миллионы людей, спешить не стоит.

Интересно и то, что ИИ со своей задачей не справился, а вот обычный поиск Google, не «усиленный» новейшими технологиями, перенаправил журналистов на Google Maps, где реальные региональные показатели точно соответствовали информации на правительственных сайтах.

• Ранее соучредитель компании Microsoft Билл Гейтс предположил, что искусственный интеллект может «убить» поисковики и маркетплейсы вроде Amazon. Также предлагаем вам почитать о том, что благодаря ИИ Google теперь может выявлять сгенерированные изображения.