Программа автономного вождения Uber неправильно распознавала пешеходов

Автономный автомобиль Uber в марте 2018 года насмерть сбил пешехода – сообщается, что в программном обеспечении системы были критические ошибки. Помимо прочего, алгоритм не мог распознавать пешеходов, переходящих дорогу в неположенном месте.

По данным Национального совета по безопасности на транспорте США, программа Uber не распознала 49-летнюю жертву, Элен Херцберг, как пешехода, переходящего улицу. Система определила возможность столкновения с женщиной только за 1,2 секунды до удара, когда тормозить было уже поздно.

В отчете Национального совета по безопасности на транспорте также отмечается, что алгоритмы Uber вообще «не учитывали возможность пешеходов переходить дорогу в неположенном месте». Более того, автомобиль был запрограммирован начинать торможение с задержкой в одну секунду, чтобы успеть высчитать альтернативный маршрут или дать возможность запасному водителю перехватить управление. Эту функцию устранили в последующих обновлениях.

По данным отчета, было еще как минимум два случая, в которых автономные автомобили Uber не смогли распознать препятствия на дороге. В одном из них машина столкнулась со столбом-ограничителем велосипедной дорожки. В другом случае запасному водителю пришлось взять на себя управление, чтобы избежать столкновения с встречным автомобилем – в результате машина Uber врезалась в припаркованный автомобиль. В течение семи месяцев до смертельного столкновения с пешеходом машины Uber стали участниками 37 ДТП, в 33 из которых другие автомобили врезались в автономные устройства.

В декабре 2018 года Uber возобновила испытания беспилотных машин на основе существенно исправленного программного обеспечения. Согласно данным Национального совета по безопасности на транспорте, в компании провели компьютерную симуляцию новой системы с помощью данных сенсоров, записанных во время смертельного происшествия. В ходе тестирования обнаружилось, что новый алгоритм распознал бы пешехода на расстоянии в 90 метров – у автомобиля было бы 4 секунды, чтобы затормозить на скорости 70 км/ч. Известно, что при такой скорости максимальный тормозной путь автомобиля составляет около 40 метров, включая время реакции водителя. Таким образом, улучшенная программа, скорее всего, успела бы вовремя остановить машину Uber и избежать столкновения.