«Вікіпедія» та…Gmail. Чат-бот Bard розповів, що його навчали на внутрішніх даних Google

Нещодавно компанія Google запустила чат-бот Bard, який повинен скласти конкуренцію популярному ChatGPT від OpenAI. Та користувачі вже зіткнулися з неприємною ситуацією, тестуючи його. Так, в одному діалозі чат-бот розповів, що навчається на даних Gmail. Редакція MC.today переповідає детальніше.

Експертка зі штучного інтелекту Кейт Кроуфорд опублікувала на своїй сторінці у Twitter розмову з Bard. Дівчина запитала, звідки взяли навчальні дані для нього. На що чат-бот сказав, що набір даних містить декілька джерел. Наприклад, він використовує загальнодоступну інформацію, як-от з «Вікіпедії», та… внутрішні дані Google.

«Гмм, когось хвилює те, що Bard каже, що його навчальний набір даних містить… інформацію з Gmail? Я думаю, що це абсолютно неправильно, інакше Google перетинає серйозні юридичні межі», – написала вона.

Umm, anyone a little concerned that Bard is saying its training dataset includes… Gmail?

I’m assuming that’s flat out wrong, otherwise Google is crossing some serious legal boundaries. pic.twitter.com/0muhrFeZEA

— Kate Crawford (@katecrawford) March 21, 2023

Пізніше їй відповіли в Google та пояснили, що Bard заснований на великих мовних моделях та може помилятись. Та додали, що чат-бот не навчений на даних Gmail.

Цікаво, що компанія також написала, що не використовує приватні дані для навчання чат-бота, однак згодом видалила коментар.

If you’re curious, this was Google’s reply that they deleted: pic.twitter.com/4vHiQ7cpfi

— Kate Crawford (@katecrawford) March 22, 2023

Схоже, в Google розуміли, що із запуском Bard виникне багато неприємних ситуацій. Як пише CNBC, гендиректор компанії повідомив працівникам, що багато користувачів почнуть використовувати чат-бот і «все піде не так». Однак саме їхні відгуки мають «вирішальне значення для вдосконалення продукту та базової технології».

• Раніше ми розповідали, як Bard зганьбився вже в першому рекламному відео. Його витівка коштувала компанії $100 млрд ринкової вартості. Попри це, Google додала його у свої продукти, зокрема в уже згаданий Gmail.