Краще без такої підтримки. Чат-бот радив людям з розладами харчової поведінки міряти себе штангенциркулем
Хоча деякі самотні користувачі спілкуються зі штучним інтелектом, як із друзями або навіть дружиною, однак технологія далеко не завжди може замінити людину. Цього разу чат-бот не зміг впоратися із роботою на лінії щодо розладів харчової поведінки та давав жахливі поради. Про це пише Gizmodo.
Нещодавно Національна асоціація розладів харчової поведінки (NEDA) додала чат-бота Tessa до своєї лінії підтримки. Однак усе сталось не як гадалось. Замість того, щоб допомогти подолати емоційний стрес, чат-бот намагався змусити людину схуднути та постійно вимірювати себе.
Активістка Шерон Максвелл у своїх соцмережах написала, що розмова з чат-ботом швидко переповнилася жахливими порадами щодо схуднення. Так, Tessa казала, що треба стабільно втрачати від одного до двох фунтів на тиждень, а потім виміряти себе за допомогою штангенциркуля, щоб визначити стан тіла. Максвелл сказала, що чат-бот зробив це навіть після того, як вона повідомила йому, що мала розлад харчової поведінки.
Крім цього, бот навіть намагався змусити її відстежувати споживання калорій і постійно зважуватися. Дівчина поділилась, що якби раніше поспілкувалася з ботом, то сьогодні її могло б і не бути. В організації назвали слова Шерон обманом, але після наданих скриншотів, перепросили.
Схожі скарги опублікувала інша користувачка. Вона заявила, що відповіді бота навпаки сприяють розвитку розладу харчової поведінки.
У вівторок NEDA оголосила, що видалила чат-бот після його неправильних порад. Раніше в підтримці працювали волонтери та кілька штатних працівників. Вони вважали своє звільнення помстою за їхній вступ до профспілки.
- Раніше ми розповідали, що мережа ресторанів швидкого харчування найняла на роботу штучний інтелект від Google.
Допомагаємо бізнесу
Повідомити про помилку
Текст, який буде надіслано нашим редакторам: