Партнерство государственных органов с компанией Clearview AI может привести к неконтролируемой слежке за украинцами

От начала полномасштабного вторжения со стороны россии Украина стала активнее использовать новые технологии для борьбы с агрессором. В частности, в последнее время большое внимание уделяется партнерству с американской компанией Clearview AI, которая специализируется на программах для распознавания лиц. Впрочем, после окончания войны Украине следует отказаться от использования ИИ от этих разработчиков или хотя бы сделать его законным. Почему именно – анализировали журналисты «Куншт».

Facial recognition system. Woman with scanner frame and digital biometric grid outdoors

Минобороны начало сотрудничать с Clearview AI еще в марте прошлого года. Как именно работает эта программа и чем она помогает украинской армии, мы рассказывали здесь. В апреле стало известно о том, что Минцифры договорилось с Сlearview AI и в дальнейшем вместе строить цифровую инфраструктуру Украины и развивать технологии искусственного интеллекта. Впрочем, у медали есть и оборотная сторона.

Сlearview AI стала известной только в 2020 году после выхода материала о ней в The New York Times. До этого она некоторое время работала непублично. Журналисты сообщали, что база изображений компании насчитывала около 3 млрд фото людей, которые в свое время собрали в соцсетях. В апреле текущего года мы рассказывали о том, что она стремительно выросла до 30 млрд фотографий. Интересно, что данные собирали без разрешения пользователей и с нарушением политик платформ типа Facebook и Twitter. То есть возникает много вопросов относительно этичности и легальности пользования этой базой. К слову, инструмента или механизма удаления изображений по требованию до сих пор не существует.

Стоит отметить, что продуктами Clearview AI пользуются многие организации и частные компании, а также государственные учреждения вроде Министерства юстиции США и ФБР. Правоохранители, например, применяют инструменты распознавания лиц при расследовании убийств, краж и других преступлений. Однако уже есть ряд задокументированных случаев, когда искусственный интеллект ошибался и из-за него арестовывали невинных людей. Систему распознавания Clearview AI запретили в Великобритании, Италии и некоторых штатах США. Компанию оштрафовали на десятки миллионов евро во Франции и Греции.

Несмотря на некоторые возможные договоренности между министерствами и Clearview AI, Украину критикуют за использование технологий распознавания, потому что это нарушает права людей. Нет сомнений в том, что это очень полезный инструмент во время войны. Однако после ее завершения украинским властям нужно будет принять непростое решение относительно того, стоит ли диджитализироваться в партнерстве с компанией, которая работает в так называемой «серой зоне», то есть обходит определенных регуляторов и нарушает законодательство.

Другими словами, использование технологий распознавания должно быть регламентированным и регулированным. Если в Украине не появится соответствующая нормативная база, это может привести к неконтролируемому слежению за населением со стороны государства.

• Ранее мы рассказывали о том, как из-за ошибки системы распознавания полиция арестовала невиновного мужчину, а женщину с помощью такой технологии специально отслеживали и отказывали ей в праве посещать ряд заведений.