Исследователи призывают прекратить продажу полиции технологий «некорректного» распознавания лиц

Исследователи ИИ из Google, Facebook, Microsoft и ряда ведущих университетов призвали Amazon прекратить продажу правоохранительным органам технологий распознавания лиц. В открытом письме они отмечают, что исследования неоднократно показывали, что алгоритмы Amazon имеют недостатки в виде большего количества ошибок для темнокожих и женских лиц.

Исследователи утверждают, что если такая технология будет принята на вооружение полицией, она может усилить расовую дискриминацию и создавать случаи ошибочной идентификации, стимулировать навязчивый надзор за маргинальными группами.

Среди подписавшихся Анима Анандкумар — профессор Калифорнийского технологического института и бывший главный научный сотрудник AWS, дочерней компании Amazon. Анандкумар надеется, что письмо откроет «публичный диалог о том, как мы можем оценить распознавание лиц», добавив, что для проверки этой технологии необходимы технические рамки: «Государственное регулирование может появиться только после того, как мы разработаем технические рамки для оценки этих систем».

Алгоритмы Amazon, как одного из ведущих поставщиков технологии распознавания лиц, неоднократно подвергались такому анализу. Исследование, опубликованное ранее в этом году, показало, что программному обеспечению компании труднее определить пол темнокожих мужчин и женщин, в то время как тест, проведенный в 2018 году, показал, что программное обеспечение Rekognition от Amazon неправильно сопоставило фотографии 28 членов Конгресса с полицейской фотокартотекой.

Amazon защищает свои технологии, и большая часть опубликованного недавно письма компании предлагает поэтапное опровержение критики. Авторы отмечают, например, что хотя Amazon (по заверениям компании) и не получала сообщений о злоупотреблениях правоохранительными органами технологией распознавания лиц, это все равно не имеет смысла, так как не существует законов для аудита таких приложений программного обеспечения.

По мере того, как исследования обнаруживают все больше недостатков в этой технологии, протесты среди разработчиков, акционеров и технических сотрудников происходят все чаще. Google отказывается продавать программное обеспечение для распознавания лиц из-за потенциального злоупотребления им, в то время как Microsoft призвала к государственному регулированию. Однако это сложный вопрос, как именно должна контролироваться эта технология.