Чат-боты «сплетничают» друг о друге или история о том, как «закрыли» Bard от Google

Похоже, искусственный интеллект может не только генерировать тексты, но и сплетни. Bing от Microsoft заявил, что Bard от Google прекратил свою работу. А помог в создании фейка другой чат-бот – ChatGPT. The Verge рассказывает, как началась эта запутанная история ИИ-сплетен и чем это действительно опасно. Редакция MC.today передает подробнее.

В начале была шутка

Все началось с поста на форуме Hacker News. Один из пользователей пошутил, что Bard прекратил работу, а другой пользователь использовал ChatGPT, чтобы создать фейковую новость об этом.

А дальше понеслась. Пользователь Twitter спросил Bard о том, когда он закроется. А чат-бот ответил, что его уже закрыли, потому что не приняла аудитория. Как источник этой информации он указал тот самый фейк на форуме Hacker News, который создал ChatGPT.

Количество сообщений об этой ситуации увеличилось настолько, что даже другой чат-бот Bing также ответил, что Bard закрыли. Более того, в качестве доказательства он добавил несколько ссылок.

На момент публикации этой истории Bing начал отвечать правильно, без ссылок на фейковые новости. Издание пишет, что это можно воспринимать как хороший знак того, что ИИ действительно учится и его ответы можно исправить. Но есть нюанс.

«Это смешная ситуация, но с потенциально серьезными последствиями»

Такая ситуация, даже несмотря на исправление, угрожает человеку оказаться в дезинформационном пространстве, где ИИ не может определить надежность источников, неправильно трактует ту или иную информацию и даже дает неправильные данные о самом себе.

В этом случае вся запутанная история началась с одного шутливого комментария на Hacker News. Представьте, что вы могли бы сделать, если бы вы хотели, чтобы эти системы вышли из строя. «Все потому, что Microsoft, Google и OpenAI решили, что доля рынка важнее безопасности».

• Ранее мы говорили, что GPT-4 генерирует больше фейков, чем якобы менее совершенная модель GPT-3,5. А чат-бот Bard рассказал, что его обучали на внутренних данных Google. Также мы писали, как GPT-4 нанял человека и заставил его ввести captcha на одном из сайтов и доказать, что он не робот.
• Умение ИИ убеждать человека обеспокоило ученых. Они взволнованы тем, что у искусственного интеллекта может появиться собственная религия.