01 Чер 2023

Краще без такої підтримки. Чат-бот радив людям з розладами харчової поведінки міряти себе штангенциркулем

Авторка новин MC.today

Хоча деякі самотні користувачі спілкуються зі штучним інтелектом, як із друзями або навіть дружиною, однак технологія далеко не завжди може замінити людину. Цього разу чат-бот не зміг впоратися із роботою на лінії щодо розладів харчової поведінки та давав жахливі поради. Про це пише Gizmodo.

Нещодавно Національна асоціація розладів харчової поведінки (NEDA) додала чат-бота Tessa до своєї лінії підтримки. Однак усе сталось не як гадалось. Замість того, щоб допомогти подолати емоційний стрес, чат-бот намагався змусити людину схуднути та постійно вимірювати себе.

Активістка Шерон Максвелл у своїх соцмережах написала, що розмова з чат-ботом швидко переповнилася жахливими порадами щодо схуднення. Так, Tessa казала, що треба стабільно втрачати від одного до двох фунтів на тиждень, а потім виміряти себе за допомогою штангенциркуля, щоб визначити стан тіла. Максвелл сказала, що чат-бот зробив це навіть після того, як вона повідомила йому, що мала розлад харчової поведінки.

Крім цього, бот навіть намагався змусити її відстежувати споживання калорій і постійно зважуватися. Дівчина поділилась, що якби раніше поспілкувалася з ботом, то сьогодні її могло б і не бути. В організації назвали слова Шерон обманом, але після наданих скриншотів, перепросили.

Схожі скарги опублікувала інша користувачка. Вона заявила, що відповіді бота навпаки сприяють розвитку розладу харчової поведінки.

У вівторок NEDA оголосила, що видалила чат-бот після його неправильних порад. Раніше в підтримці працювали волонтери та кілька штатних працівників. Вони вважали своє звільнення помстою за їхній вступ до профспілки.