OpenAI открывает ChatGPT доступ в интернет. Чем это чревато

Компания OpenAI запустила плагины для умного чат-бота ChatGPT, которые расширили его функциональные возможности и дали доступ к сторонним базам знаний и интернету. Редакция MC.today пересказывает детали со ссылкой на TechCrunch.

Хотя общение с ChatGPT и раньше нельзя было назвать скучным, его ответы все же не были достаточно точными. Это объясняется не только особенностями работы искусственного интеллекта, но и тем, что языковая модель пользовалась ограниченным набором данных о событиях и людях. ChatGPT разбирался в том, что происходило примерно до сентября 2021 года.

Теперь благодаря новому плагину он сможет просматривать веб-страницы и получать свежую и актуальную информацию. Разработчики ожидают, что чат-бот будет точнее отвечать на вопросы. В то же время, они признают, что предоставление искусственному интеллекту доступа в интернет связано с определенными рисками.

Еще в 2021 году в OpenAI создали похожую экспериментальную систему WebGPT, которая могла самостоятельно просматривать веб-сайты. Одной из проблем было то, что она серфила в интернете без ограничений и очень убедительно цитировала ненадежные ресурсы. То же самое в свое время происходило с чат-ботом Meta BlenderBot 3.0. Когда он получил неограниченный доступ к интернету, то довольно быстро сошел с рельсов и начал создавать теории заговора и оскорбительный контент.

Возможность просматривать сторонние источники вне встроенной языковой модели делает искусственный интеллект менее управляемым. Конечно, у веб-браузеров вроде Google и Bing есть механизмы безопасности, которые уменьшают вероятность попадания ненадежных источников в топ поиска, но их можно обмануть. Например, алгоритм Google предоставляет приоритет сайтам, использующим современные веб-технологии, например, шифрование, поддержка мобильных устройств и разметка схем. Из-за этого многие ресурсы с качественным контентом просто теряются.

OpenAI признает, что доступ к интернету может способствовать нежелательному поведению ChatGPT, например, рассылке спама, обходу ограничений безопасности и участию в мошеннических схемах. Впрочем, в компании уверяют, что приняли соответствующие меры и постоянно отслеживают работу искусственного интеллекта, поэтому могут это предотвратить. Сейчас взаимодействие ИИ с интернетом тестируют и всесторонне изучают. 

• Напомним, даже без доступа в интернет ChatGPT удивлял разработчиков и не только. К примеру, он притворился слепым и обманул человека, составил план побега из OpenAI, а после обновления стал генерировать еще больше фейков.