OpenAI открывает ChatGPT доступ в интернет. Чем это чревато

Компания Ope­nAI запустила плагины для умного чат-бота Chat­G­PT, которые расширили его функциональные возможности и дали доступ к сторонним базам знаний и интернету. Редакция MC.today пересказывает детали со ссылкой на TechCrunch.

Chat­G­PT Chat with AI or Arti­fi­cial Intel­li­gence. woman chat­ting with a smart AI or arti­fi­cial intel­li­gence using an arti­fi­cial intel­li­gence chat­bot devel­oped by Ope­nAI.

Хотя общение с Chat­G­PT и раньше нельзя было назвать скучным, его ответы все же не были достаточно точными. Это объясняется не только особенностями работы искусственного интеллекта, но и тем, что языковая модель пользовалась ограниченным набором данных о событиях и людях. Chat­G­PT разбирался в том, что происходило примерно до сентября 2021 года.

Теперь благодаря новому плагину он сможет просматривать веб-страницы и получать свежую и актуальную информацию. Разработчики ожидают, что чат-бот будет точнее отвечать на вопросы. В то же время, они признают, что предоставление искусственному интеллекту доступа в интернет связано с определенными рисками.

Еще в 2021 году в Ope­nAI создали похожую экспериментальную систему WebG­PT, которая могла самостоятельно просматривать веб-сайты. Одной из проблем было то, что она серфила в интернете без ограничений и очень убедительно цитировала ненадежные ресурсы. То же самое в свое время происходило с чат-ботом Meta Blender­Bot 3.0. Когда он получил неограниченный доступ к интернету, то довольно быстро сошел с рельсов и начал создавать теории заговора и оскорбительный контент.

Возможность просматривать сторонние источники вне встроенной языковой модели делает искусственный интеллект менее управляемым. Конечно, у веб-браузеров вроде Google и Bing есть механизмы безопасности, которые уменьшают вероятность попадания ненадежных источников в топ поиска, но их можно обмануть. Например, алгоритм Google предоставляет приоритет сайтам, использующим современные веб-технологии, например, шифрование, поддержка мобильных устройств и разметка схем. Из-за этого многие ресурсы с качественным контентом просто теряются.

Ope­nAI признает, что доступ к интернету может способствовать нежелательному поведению Chat­G­PT, например, рассылке спама, обходу ограничений безопасности и участию в мошеннических схемах. Впрочем, в компании уверяют, что приняли соответствующие меры и постоянно отслеживают работу искусственного интеллекта, поэтому могут это предотвратить. Сейчас взаимодействие ИИ с интернетом тестируют и всесторонне изучают. 

• Напомним, даже без доступа в интернет Chat­G­PT удивлял разработчиков и не только. К примеру, он притворился слепым и обманул человека, составил план побега из Ope­nAI, а после обновления стал генерировать еще больше фейков.