Разделы

Безопасность Бизнес Ритейл Розница Техника

Россиянина едва не посадили на 8 лет из-за ошибки искусственного интеллекта

Система распознавания лиц «Ашана» дала сбой и указала на невиновного человека как на преступника. Охранники магазина незаконно задержали его на два часа, после чего передали полицейским, которые угрожали ему обыском дома и годами тюрьмы. Причину задержания пострадавшему раскрыли спустя пять часов и только после приезда адвоката.

Искусственный интеллект иногда ошибается

Житель Москвы Антон Леушин мог провести восемь лет своей жизни в тюрьме из-за ошибки в работе системы распознавания лиц в одном из столичных гипермаркетов «Ашан». Как пишет сам Леушин на своей странице в Facebook, интеллектуальная система перепутала его с неизвестным, обокравшим магазин на десятки тысяч рублей.

«Новая “автоматическая система распознавания лиц” “Ашана” определила во мне преступника, который за три недели до этого вынес из “Ашана” элитный алкоголь на сумму 78 тыс. руб. На фото с камер и видео был человек среднего телосложения в черной кепке, черной кофте, синих джинсах, с обычной белой медицинской маской на лице, из-под которой была видна борода. По этим “особым” приметам система указала на меня», – написал Антон Леушин на своей станице в Facebook.

Задержание и угрозы

По словам Леушина, 23 октября 2020 г. его задержали охранники магазина «Ашан Сокольники» (адрес магазина – ул. Верхняя Красносельская, д. 3А). Антон пробыл вместе с ними в магазине два часа, после чего полицейские отвезли его в участок.

Публикация со страницы Антона Леушина в Facebook

Пострадавший заявил, что представители правоохранительных органов угрожали ему обыском в квартире и даже тюремным заключением на восемь лет. Сотрудники МВД продержали его в участке целых пять часов, пока не прибыл адвокат, то есть Леушин имел все шансы провести в их компании намного больше времени.

Что немаловажно, причину задержания представители органов правопорядка разъяснили ему лишь после того, как приехал адвокат, то есть в течение семи часов, с учетом двух часов пребывания в магазине под присмотром охранников, Леушина держали в неведении.

Беспочвенность обвинений и непредвиденные расходы

Адвокат, нанятый Антоном Леушиным, доходчиво объяснил полицейским, что их обвинения беспочвенны. После этого пострадавший был отпущен на свободу без составления протокола.

Итогом всего произошедшего, как пишет сам Антон, стали непредвиденные расходы – 15 тыс. руб. на срочный вызов адвоката. Также он упомянул потраченные нервы.

Никаких извинений

За причинение неудобств Антон Леушин не получил ни извинений от полиции или представителей «Ашана», ни компенсации. «Максимально наглое поведение охраны “Ашана”, которая в нарушение закона удерживала меня два часа, не должно остаться безнаказанным. Как и действия их руководства, которое сделало ложное заявление в полицию, обвинив меня в краже, основываясь на приметах, под которые может попасть половина людей в Москве, да еще и ссылаясь на “автоматическое распознавание лиц” под медицинской маской», – пишет Леушин.

ashan600.jpg
Администрация гипермаркета одной из крупнейших сетей в России не потрудилась извиниться перед Антоном

«Ну и полиция, конечно, хороша со своим стремлением не разобраться, а давить физически и психологически, чтобы сделать себе план и отправить невиновного под суд», – добавил он, комментируя действия людей, в обязанности которых входит защита граждан.

Отмщения не будет?

Действия охранников магазина можно расценивать как нарушение ст. 127 УК РФ (незаконное лишение свободы), о чем Антону Леушину написали в комментариях к его публикации. Ему посоветовали написать два заявления – на охранников за незаконное задержание и на полицейских за превышение полномочий.

ashan602.jpg
Леушину советуют использовать закон против охранников и полицейских

Сам пострадавший пока не изъявляет желания добиться наказания для охранников «Ашана». «По поводу всяких заяв и т. д. – надо много свободного времени. Я ходил в саму администрацию “Ашана”, и там нашел почти всех фигурантов. Раскаяния они не проявили и предложили писать в жалобную книгу, запись в которой они рассмотрят в течение трех дней. Времени не было, писать не стал. Подготовлю текст, зайду, напишу», – ответил он на комментарии других пользователей.

Не первый случай

Ситуация, в которой оказался Антон Леушин, не единична в мировой практике. Другой зарегистрированный случай такого рода, по данным издания New York Times (NYT), произошел в январе 2020 г., когда ошибка интеллектуальной системы распознавания лиц привела к аресту афроамериканца Роберта Джулиана-Борчака Уильямса (Robert Julian-Borchak Williams).

Олег Пашинин, «Философия.ИТ» — Как в «Росатоме» импортозаместили западную СЭД
Импортонезависимость

Полицейские Детройта (США) задержали Уильямса и доставили его в участок, где объяснили, что «умная» система распознавания лиц определила в нем преступника, ограбившего магазин еще в 2018 г. В итоге полицейские обнаружили, что система ошиблась, но к этому времени пострадавший уже успел провести 30 часов за решеткой.

«Я уверена, что это далеко не первый случай ошибки системы распознавания лиц, повлекший арест человека, не совершавшего преступления. Вероятнее всего, это данный случай – первый, о котором стало известно общественности», – заявила NYT адвокат Клер Гарви (Clare Garvie).

Эльяс Касми