«Википедия» и… Gmail. Чат-бот Bard рассказал, что его обучали на внутренних данных Google

Недавно компания Google запустила чат-бот Bard, который должен составить конкуренцию популярному ChatGPT от OpenAI. Пользователи уже столкнулись с неприятной ситуацией, тестируя его. Так, в одном диалоге чат-бот рассказал, что учится на данных Gmail. Редакция MC.today передает подробнее.

Эксперт по искусственному интеллекту Кейт Кроуфорд опубликовала на своей странице в Twitter разговор с Bard. Девушка спросила, откуда взяли обучающие данные для него. На что чат-бот ответил, что набор данных содержит несколько источников. Например, он использует общедоступную информацию, например из «Википедии», и… внутренние данные Google.

«Гмм, кого-нибудь немного беспокоит то, что Bard говорит, что его учебный набор данных содержит… информацию Gmail? Я предполагаю, что это абсолютно неправильно, в противном случае Google пересекает серьезные юридические границы», – написала она.

Хм, кого-нибудь немного беспокоит, что Бард говорит, что его обучающий набор данных включает… Gmail?

Я предполагаю, что это совершенно неправильно, иначе Google переходит серьезные юридические границы. pic.twitter.com/0muhrFeZEA

— Кейт Кроуфорд (@katecrawford) 21 марта 2023 г.

Позже ей ответили в Google и объяснили, что Bard основан на больших языковых моделях и может ошибаться. И добавили, что чат-бот не обучен данным Gmail.

Интересно, что компания также написала, что не использует личные данные для обучения чат-бота, однако позже удалила комментарий.

Если вам интересно, это был ответ Google, который они удалили: pic.twitter.com/4vHiQ7cpfi

— Кейт Кроуфорд (@katecrawford) 22 марта 2023 г.

Похоже, Google понимали, что с запуском Bard возникнет много неприятных ситуаций. Как пишет CNBC, гендиректор компании сообщил сотрудникам, что многие пользователи начнут использовать чат-бот и «все пойдет не так». Однако именно их отзывы имеют «решающее значение для совершенствования продукта и базовой технологии».

• Раньше мы рассказывали, как Bard опозорился уже в первом рекламном видео. Его выходка обошлась компании в $100 млрд рыночной стоимости. Несмотря на это, Google добавила его в свои продукты, в частности уже упомянутый Gmail.