«Сейчас мы все – подопытные кролики». Почему не стоит доверять поисковым системам с ИИ вроде Bing на базе ChatGPT. Пересказ

Эта неделя должна была стать неделей появления поисковых систем на базе чат-ботов. Основная идея состоит в том, что эти боты с ИИ перевернут наш опыт поиска в Интернете, генерируя ответы на вопросы в разговорном виде. Вместо того, чтобы просто возвращать списки ссылок, как это делают поисковые системы сейчас.

«Сейчас мы все – подопытные кролики». Почему не стоит доверять поисковым системам с ИИ вроде Bing на базе ChatGPT. Пересказ

Но что-то пошло не так. В журнале MIT Technology Review вышел текст о том, почему на самом деле не стоит доверять поисковикам с искусственным интеллектом. Редакция MC.today публикует пересказ материала. Переведено бюро переводов «Профпереклад».

Перевод от

Технология не готова к использованию в таких масштабах

Приблизительно через две секунды после того, как Microsoft предоставила людям доступ к своей новой поисковой системе Bing на базе ChatGPT, люди начали обнаруживать, что она отвечает на некоторые вопросы неправильно или нелепо, например как в случае с теорией заговора.

У Google был неприятный момент, когда учёные заметили фактическую ошибку в собственной рекламе компании для своего же чат-бота Bard. Она впоследствии сократила стоимость ее акций на $100 млрд.

Что делает все это еще более шокирующим – так это то, что это не стало неожиданностью точно ни для кого, кто обращал внимание на языковые модели искусственного интеллекта.

Проблема заключается в следующем: технология просто не готова к использованию в таком масштабе. Языковые модели искусственного интеллекта – это печально известные болтуны, которые часто выдают ложь за факты.

Они прекрасно предсказывают следующее слово в предложении, но у них нет представления о том, что это предложение на самом деле означает. Это делает невероятно опасным их сочетание с поиском, где крайне важно разобраться в фактах.

Компания OpenAI, создавшая популярный чат-бот с искусственным интеллектом ChatGPT, всегда подчеркивала, что это лишь исследовательский проект и что он постоянно усовершенствуется по мере получения отзывов людей.

Это не помешало компании Microsoft интегрировать его в новую версию Bing, хотя и с оговорками, что результаты поиска могут быть ненадежными.

Поиск с помощью ИИ все-таки не безнадежен?

Google уже много лет использует обработку естественного языка, чтобы помочь людям осуществлять поиск в Интернете, используя целые предложения вместо ключевых слов.

«Однако до сих пор компания неохотно интегрировала собственную технологию чат-ботов с ИИ в свою фирменную поисковую систему», – говорит профессор Вашингтонского университета Чираг Шах, специализирующийся на онлайн-поиске.

Руководство Google было озабочено «риском для репутации», связанным с поспешным внедрением инструмента, подобного ChatGPT. Какая ирония!

Последние промахи крупных технологических компаний не означают, что поиск с помощью ИИ является безнадежным делом. Один из способов, которым Google и Microsoft пытались создать свои поисковые отчеты, созданные искусственным интеллектом, более точными, заключался в том, чтобы предложить цитирование.

«Ссылки на источники позволяют пользователям лучше понять, откуда поисковая система получает информацию», – говорит Маргарет Митчелл, исследователь и специалист по этике стартапа искусственного интеллекта Hugging Face, ранее являвшаяся соруководителем команды по этике искусственного интеллекта в компании Google.

По ее словам, это может даже дать людям более разнообразный взгляд на вещи, подтолкнув их рассмотреть больше источников, чем они могли бы сделать в ином случае.

Но это никак не решает фундаментальную проблему, заключающуюся в том, что эти модели искусственного интеллекта придумывают информацию и уверенно выдают ложь за факт. И когда текст, созданный искусственным интеллектом, выглядит авторитетным и ссылается на источники, это по иронии судьбы может уменьшить вероятность того, что пользователи проверят информацию, которую они видят.

«Многие люди не проверяют цитаты. Наличие цитаты придает почему-то видимость корректности, которой на самом деле может и не быть», – говорит Митчелл.

«Но точность результатов поиска действительно не имеет значения для крупных технологических компаний», – говорит Шах. Хотя компания Google изобрела технологию, подпитывающую нынешний ажиотаж вокруг ИИ, признание и внимание прочно прикованы к стартапу OpenAI, о котором много говорят, и его патрона, компании Microsoft.

«Это, безусловно, ставит Google в неловкое положение. В настоящее время они находятся в оборонительной позиции. Они не были в таком положении очень давно», – говорит Шах.

Между тем, компания Microsoft сделала ставку на то, что ожидания от Bing настолько низки, что несколько ошибок на самом деле не будут иметь значения. Доля Microsoft на рынке онлайн-поиска составляет менее 10%. Выигрыш еще всего нескольких процентов был бы для них огромной победой, поясняет Шах.

Есть еще более масштабная игра, кроме поиска на базе ИИ

Поиск – это только одна сфера, где два технологических гиганта борются друг с другом. Они также конкурируют в области облачных вычислений, программного обеспечения для повышения производительности и корпоративного программного обеспечения.

Диалоговый искусственный интеллект становится способом демонстрации передовых технологий, находящих применение в других сферах бизнеса.

Шах считает, что компании намерены представить ранние сбои в работе этих систем как возможности для изучения. «Вместо того, чтобы подходить к этому осторожно, они действуют очень смело. Пусть система ИИ ошибается, потому что теперь кот уже не в мешке», – говорит он.

По сути мы, пользователи, сейчас выполняем работу по бесплатному тестированию этой технологии. «Пока что мы все – подопытные кролики», – говорит Шах.

Источник: текст MIT Technology Review.