Клиенты австралийской сети супермаркетов жалуются, что к ним относятся, как к грабителям, из-за камер ИИ

Австралийская сеть супермаркетов обновила систему видеонаблюдения, которая отслеживает поведение покупателей на кассах самообслуживания. Камеры усовершенствовали с помощью искусственного интеллекта, но клиенты начали жаловаться на то, что к ним относятся, как к грабителям. Редакция MC.today пересказывает подробности со ссылкой на Daily Mail.

A girl customer scanns and pays for goods from a supermarket in an automated self-service checkout terminal

Крупнейшую в Австралии сеть супермаркетов Woolworths критикуют из-за внедрения технологии на основе искусственного интеллекта, которая «рассматривает каждого клиента как подозреваемого».

Кассы самообслуживания оборудовали умными камерами, отслеживающими сканирование товаров и выявляющими случаи, когда человек пробивает не тот продукт. Например, покупает более дорогой, а сканирует его как более дешевый. В таком случае, система приостанавливает обслуживание на кассе, воспроизводит видео ошибочного сканирования и просит клиента исправиться. Также она может давать подсказки тем, кто пользуется сканером неправильно или сталкивается с другими техническими проблемами.

Некоторые клиенты сети сообщали о том, что искусственный интеллект «позорил» их в присутствии других посетителей супермаркета. Иногда он фиксирует вещи, которые люди купили в других супермаркетах или принесли с собой, например пакеты или салфетки, и требует заплатить за них. Однажды искусственный интеллект идентифицировал как продукт луковую шелуху, которая осталась на дне корзины, и не давал клиенту спокойно уйти из магазина.

Саманта Флореани из группы Digital Rights Watch считает, что эта технология может вызывать у покупателей ощущение, что за ними постоянно наблюдают. Она отметила, что хотя в Woolworths объясняют это попытками улучшить качество обслуживания, автоматизацию на самом деле используют для сокращения расходов на персонал, а технологии распознавания лиц нарушают право человека на конфиденциальность и даже представляют угрозу для конфиденциальной информации.

В компании ответили, что идентифицировать клиента по записи невозможно, поскольку искусственный интеллект «размывает» его внешность и фрагменты видео, на которых он рассчитывается за покупки. То есть получить данные его карты, например PIN-код, таким образом невозможно.

• Ранее мы рассказывали о том, что из-за ошибки технологии распознавания лиц полиция арестовала невиновного мужчину. Еще один уважаемый бизнесмен использовал такие системы, чтобы в его заведения не пускали людей, работающих в ряде адвокатских бюро.