Из разных источников мы сегодня получаем много информации о возможностях автономного транспорта, но иногда более интересно узнать о том, что недоступно для таких автомобилей. Ограничения технологии столь же важны, как и ее возможности. По крайней мере, представленный ниже случай говорит именно об этом.
Вы можете увидеть принцип действия ловушки №1 для беспилотного автомобиля. Одной из главных особенностей для систем автономного вождения будет возможность обучаться и распознавать дорожную разметку. Край полосы движения может стать границей запретной зоны для автомобиля.
Искусственный разум будет знать, что одним из наиболее важных правил дорожного движения является запрет пересечения сплошной линии рядом с прерывистой линией на внешней стороне. Но, конечно, можно пересекать сплошную линию, если прерывистая линия на ближайшей стороне.
Круг из сплошной внутренней и прерывистой внешней линии стал ловушкой для умной, но простодушной машины. Конечно, это был обычный беспилотный автомобиль для демонстрационных целей. Реально передвигающийся по городу пришлось бы искать долго.
Попавший в такой магический круг автомобиль будет оставаться там, пока водитель не возьмет управление на себя. Представьте себе далекое будущее , в котором автономные системы захватили мир. Эта простая ловушка может показаться волшебной нашим несчастным потомкам.
Какие еще трюки мы могут придумать шутники для того, что потешаться над прямолинейно-простодушным ИИ, заставив его остановиться, съехать с дороги или иным образом отключить себя? Как мы будем защищать ИИ в таких ситуациях? Что будет считаться преступлением против ИИ – нападение или повреждение имущества? Да, похоже нас ожидает веселое время.
Комментарии
(0) Добавить комментарий