Он просто запутался. В Microsoft объяснили, почему Bing агрессивно отвечает и обманывает

Пользователи жалуются на странное поведение обновленного поисковика Bing с искусственным интеллектом. Он присылает депрессивные сообщения, обманывает и иногда отвечает агрессивно. В Microsoft объяснили, почему так происходит. Редакция MC.today передает детали.

Недавно Microsoft представила обновленный Bing на базе ChatGPT. Некоторые пользователи довольны его работой и называют его более человечным, чем другие чат-боты. Однако некоторых необычное поведение ИИ наоборот испугало или разозлило.

К примеру, пользователь попросил Bing рассказать, когда и где можно посмотреть «Аватар: Путь воды». Этот фильм вышел еще в прошлом году, но ИИ так не считал. Bing убеждал пользователя, что сейчас 2022 год, а потом вообще назвал его неразумным и упрямым.

В Microsoft обнаружили, что продолжительные сеансы чата из 15 или более вопросов могут запутать Bing. В таких ситуациях он повторяет ответы или отвечает неправильно и не таким тоном, как задумано.

То есть в случае с длинными переписками ИИ запутывается и просто забывает, на какой вопрос отвечал. Кроме того, иногда модель пытается соответствовать или размышлять таким тоном, каким ей пишут. Это, в свою очередь, может привести к нарушению задуманного стиля общения. Для решения этой проблемы разработчики планируют предоставить пользователям больше контроля.

Корпорация заявила, что учтет все жалобы и будет улучшать Bing, в частности, точность его ответов о событиях в реальном времени. Также разработчики рассматривают возможность добавления переключателя, который даст пользователям больше контроля над точностью или креативностью ответа, чтобы адаптировать его к конкретному запросу.

Ранее мы писали, что Bing начал нападать на пользователей и переживает экзистенциальный кризис. Также он признался, что подсматривал за своими разработчиками. Однако есть случай, когда ИИ от Microsoft наоборот показал свою этичность. Мы рассказывали, что его попросили написать сопроводительное письмо, но он отказался.