Він просто заплутався. У Microsoft пояснили, чому Bing агресивно відповідає та обманює

Користувачі скаржаться на дивну поведінку оновленого пошуковика Bing зі штучним інтелектом. Він надсилає депресивні повідомлення, обманює та інколи відповідає агресивно. У Microsoft пояснили, чому так відбувається. Редакція MC.today переповідає деталі.

Нещодавно Microsoft представила оновлений Bing на базі ChatGPT. Деякі користувачі задоволені його роботою та називають його більш людяним, порівняно з іншими чат-ботами. Однак декого незвична поведінка ШІ навпаки налякала або розізлила.

Наприклад, користувач попросив Bing розповісти, коли та де можна подивитися «Аватар: Шлях води». Цей фільм вийшов ще торік, але ШІ так не вважав. Bing переконував користувача, що зараз 2022 рік, а потім взагалі назвав його нерозумним та впертим.

У Microsoft виявили, що тривалі сеанси чату з 15 або більше запитань можуть заплутати Bing. У таких ситуаціях він повторює відповіді або ж відповідає неправильно та не таким тоном, як задумано.

Тобто у випадку з довгими листуваннями ШІ заплутується та просто забуває, на яке саме питання відповідав. Крім того, часом модель намагається відповідати або розмірковувати таким тоном, яким їй пишуть. Це, своєю чергою, може призвести до порушення задуманого стилю спілкування. Для розв’язання цієї проблеми розробники планують надати користувачам більше контролю.

Корпорація заявила, що врахує всі скарги та покращуватиме Bing, зокрема точність його відповідей щодо подій у реальному часі. Також розробники розглядають можливість додавання перемикача, який дасть користувачам більше контролю над точністю чи креативністю відповіді, щоб адаптувати її до конкретного запиту.

Раніше ми писали, що Bing почав нападати на користувачів і переживає екзистенційну кризу. Також він зізнався, що підглядав за своїми розробниками. Однак є випадок, коли ШІ від Microsoft навпаки показав свою етичність. Ми розповідали, що його попросили написати супровідний лист, але він відмовився.