Четверг, 27 Февраля 2020

Оценить материал


Вставить в блог

Bookmark and Share

Система распознавания лиц Amazon «опознала» предполагаемых преступников в 28 конгрессменах США

26 Июля, 2018

Система распознавания лиц Amazon «опознала» предполагаемых преступников в 28 конгрессменах США. Иллюстрация: James Bareham / The Verge

Система распознавания лиц Amazon «опознала» предполагаемых преступников в 28 конгрессменах США. Иллюстрация: James Bareham / The Verge

Правоохранительные органы разных стран, включая США, все активнее внедряют системы распознавания лиц, позволяющие обнаруживать подозреваемых в совершении различных преступлений. Однако точность работы таких систем порой оставляет желать лучшего, что подтвердил эксперимент, проведенный активистами Американского Союза гражданских свобод (ACLU).

В ACLU протестировали систему распознавания лиц от компании Amazon, которой уже пользуются полицейские в некоторых штатах. В рамках тестирования в систему были загружены фотографии всех 535 конгрессменов, которые алгоритм сравнивал с публичной базой из 25 тысяч фотографий подозреваемых в преступлениях. Хотя снимков членов конгресса не было в этой базе, система выдала 28 ошибочных совпадений.

«Идентификация – точная или нет – может стоить людям свободы или даже жизни. Конгресс должен серьезно отнестись к этим угрозам, нажать на тормоза и ввести мораторий на использование правоохранительными органами систем распознавания лиц», – говорится в заявлении ACLU.

Система распознавания лиц Amazon «опознала» предполагаемых преступников в 28 конгрессменах США. Иллюстрация: ACLU
           Иллюстрация: ACLU

Результаты эксперимента прокомментировал представитель Amazon, который связал ложные совпадения с недостаточной калибровкой. По его словам, в ACLU использовали систему с выставленной по умолчанию вероятностью совпадения в 80%, тогда как компания рекомендует правоохранителям повышать этот параметр до 95%. При этом стоит отметить, что сама программа не выдает такой рекомендации в процессе настройки.

Проверка ACLU также показала, что система Amazon склонна к расовой дискриминации, подобно некоторым аналогичным алгоритмам. 11 из 28 ложных совпадений (около 39%) пришлись на чернокожих конгрессменов. При этом доля темнокожих членов в конгрессе составляет 20%.

Система распознавания лиц Amazon «опознала» предполагаемых преступников в 28 конгрессменах США. Иллюстрация: ACLU
           Иллюстрация: ACLU

Как отмечает The Verge, на практике совпадения, выявленные системами распознавания лиц, должны быть подтверждены правоохранителями, прежде чем в отношении того или иного человека будет принято решение об аресте. Но активисты отмечают, что даже проверка на основе ошибочного совпадения может привести к непредвиденным последствиям.

Источник: NEWSru.com

Просмотров: 1638

Вставить в блог

Оценить материал

Отправить другу



Добавить комментарий

Введите символы, изображенные на картинке в поле слева.
 

0 комментариев

И Н Т Е Р В Ь Ю

НАЙТИ ДОКТОРА

Новостная лента

Все новости