93% «совпадения» лиц: в США полиция задержала мужчину из-за ошибки системы ИИ, а теперь он обратился в суд
Мужчина из Флориды Роберт Диллон подал иск против нескольких правоохранительных органов, утверждая, что его незаконно задержали из-за ошибочного результата системы распознавания лиц на основе искусственного интеллекта.
«Я не пожелал бы этого своему злейшему врагу», — сказал Диллон в интервью ABC News.
По данным видео с нагрудной камеры полиции, которое получило Gulf Coast News, задержание произошло в 2024 году возле дома Диллона в районе Сан-Карлос-Парк.
Сам мужчина заявляет, что во время ареста пытался объяснить полиции, что произошла ошибка. «Я фактически говорил им, что это безумие. Я понятия не имею, кто это сделал, но это не я», — вспоминал он.
Полиция разыскивала подозреваемого по делу о якобы попытке заманить ребенка в ресторан в районе пляжа Джексонвилля, который расположен более чем в 300 милях от места проживания Диллона.
«Обвинения в таком ужасном преступлении означали, что я, вероятно, не вернусь домой», — отметил он.
В иске говорится, что во время расследования правоохранители загрузили изображение подозреваемого низкого качества в систему распознавания лиц на основе ИИ. По результатам анализа система якобы определила совпадение между подозреваемым и Диллоном на уровне 93%.
Сам Диллон утверждает, что никогда не бывал в районе, где произошел инцидент, и поэтому не мог быть причастен к делу.
«Я спорил с полицейским 20 минут, а он настаивал: “Я знаю, что смотрю на вашу фотографию”», — сказал он.
После ареста дело было закрыто прокуратурой округа через несколько недель. В то же время, по словам Диллона, полное удаление записей о задержании заняло почти год и произошло при участии Американского союза гражданских свобод (ACLU).
В настоящее время Диллон и ACLU подали иск против ряда правоохранительных органов, в частности офиса шерифа округа Пинеллас, который контролирует использование технологии распознавания лиц во Флориде.
В исковом заявлении утверждается, что, несмотря на известную проблему ложных идентификаций, полиция не приняла достаточных мер предосторожности, чтобы предотвратить подобные случаи.
Также в документе отмечается, что арест Диллона стал следствием недостаточного обучения и контроля со стороны полиции в отношении использования технологии распознавания лиц в рамках конституционных требований.
Полицейские ведомства Джексонвилл-Бич и округа Джексонвилл отказались комментировать дело, когда к ним обратились журналисты ABC News.
В то же время офис шерифа округа Пинеллас заявил, что утверждения об отсутствии обучения являются ложными. Там подчеркнули, что технология распознавания лиц используется лишь как инструмент расследования, а не как окончательное подтверждение личности.
Также в ведомстве отметили, что результаты системы не являются окончательным «совпадением» и всегда требуют дополнительной проверки со стороны сотрудников перед принятием решения об аресте.
В заявлении подчеркивается, что ответственность за определение вероятной причины лежит на конкретном сотруднике правоохранительных органов, а не на системе или ведомстве, которое её использует.
Подписывайтесь на наш Тelegram-канал t.me/sudua и на Google Новости SUD.UA, а также на наш VIBER и WhatsApp, страницу в Facebook и в Instagram, чтобы быть в курсе самых важных событий.
