«Википедия» и… Gmail. Чат-бот Bard рассказал, что его обучали на внутренних данных Google
Недавно компания Google запустила чат-бот Bard, который должен составить конкуренцию популярному ChatGPT от OpenAI. Пользователи уже столкнулись с неприятной ситуацией, тестируя его. Так, в одном диалоге чат-бот рассказал, что учится на данных Gmail. Редакция MC.today передает подробнее.
Эксперт по искусственному интеллекту Кейт Кроуфорд опубликовала на своей странице в Twitter разговор с Bard. Девушка спросила, откуда взяли обучающие данные для него. На что чат-бот ответил, что набор данных содержит несколько источников. Например, он использует общедоступную информацию, например из «Википедии», и… внутренние данные Google.
«Гмм, кого-нибудь немного беспокоит то, что Bard говорит, что его учебный набор данных содержит… информацию Gmail? Я предполагаю, что это абсолютно неправильно, в противном случае Google пересекает серьезные юридические границы», – написала она.
Позже ей ответили в Google и объяснили, что Bard основан на больших языковых моделях и может ошибаться. И добавили, что чат-бот не обучен данным Gmail.
Интересно, что компания также написала, что не использует личные данные для обучения чат-бота, однако позже удалила комментарий.
Похоже, Google понимали, что с запуском Bard возникнет много неприятных ситуаций. Как пишет CNBC, гендиректор компании сообщил сотрудникам, что многие пользователи начнут использовать чат-бот и «все пойдет не так». Однако именно их отзывы имеют «решающее значение для совершенствования продукта и базовой технологии».
- Раньше мы рассказывали, как Bard опозорился уже в первом рекламном видео. Его выходка обошлась компании в $100 млрд рыночной стоимости. Несмотря на это, Google добавила его в свои продукты, в частности уже упомянутый Gmail.