Глава IBM Арвинд Кришна направил в Конгресс США открытое письмо, в котором сообщил, что компания прекратила свой бизнес по распознаванию лиц "общего назначения". По словам Кришны, компания "решительно выступает против" использования технологий для слежки, расового профилирования и "нарушения основных прав и свобод человека".
Вместо этого он предположил, что сейчас наступил момент для "национального диалога" не только о том, как следует использовать распознавание лиц, но и о том, следует ли его использовать вообще.
Глава IBM заявил, что ИИ является "мощным инструментом" для правоохранительных органов, но его использование должно контролироваться на предмет предвзятости специальными прошедшими аудит тестами. Он также настаивал на использовании технологий, повышающих подотчетность и прозрачность, таких как носимые телекамеры.
Письмо Кришны является частью более широкого призыва к Конгрессу, требующего добиваться более широкой подотчетности полиции и проводить реформы, в том числе те, которые уже являются частью недавно принятого Закона о правосудии в правоохранительной деятельности 2020 года.
Этот шаг был предпринят в разгар протестов против жестокости и дискриминации со стороны полиции. А также после того, как были подняты вопросы о предвзятости и неприкосновенности частной жизни к системе распознавания лиц Clearview AI – американской компании, поставляющей ПО для правоохранительных органов.
В нескольких отчетах указывалось, что системы распознавания лиц могут быть предвзятыми по отношению к небелым и женщинам, особенно если данные об обучении охватывают относительно небольшое число лиц из этих групп. И хотя некоторые системы распознавания лиц могут только сопоставлять лица с общедоступными данными, существуют опасения, что технология может быть использована для отслеживания и создания профилей, которые могут быть использованы для запугивания людей или ограничения их реальной частной жизни иными способами.
Комментарии
(0) Добавить комментарий