Большую тревогу порой вызывают новости о новых вариантах использования искусственного интеллекта. Возможность государственных органов в массовом порядке отслеживать и идентифицировать людей может лишить граждан общественной анонимности. Но, как показали новые исследования, есть все-таки еще способы обмануть такие системы.
Последним примером стала работа группы будущих инженеров из Левенского католического университета в Бельгии. В статье, опубликованной на прошлой неделе на сервере препринтов arXiv, эти студенты показывают, как простые печатные шаблоны могут обмануть систему ИИ, предназначенную для распознавания людей на изображениях.
Если вы распечатаете один из плакатов, специально разработанных студентами, и повесите его себе на шею, то с точки зрения ИИ, вы, вероятно, накрылись плащом-невидимкой.
Возможно это выглядит странным, но на самом деле данное явление совсем не новость в мире искусственного интеллекта. Такие шаблоны известны как состязательные примеры и они используют эффект хрупкого интеллекта систем компьютерного зрения, чтобы обмануть их, заставив увидеть то, чего нет на самом деле.
Прежде состязательные примеры использовались для того, чтобы обмануть системы распознавания лиц (просто наденьте особенные очки, и ИИ примет вас за какого-нибудь известного артиста). Они были превращены в наклейки, напечатаны на 3D-объектах, и даже использовались для создания предметов искусства, которые могут обмануть алгоритмы.
Многие исследователи предупреждают, что состязательные примеры могут быть опасными. Их можно использовать, например, для того, чтобы обмануть роботизированные автомобили, чтобы они читали знак остановки в качестве фонарного столба. В другом случае они могли обмануть системы ИИ, предназначенные для выявления заболеваний. Это может быть сделано в целях медицинского мошенничества или даже для преднамеренного причинения вреда.
Но в случае с состязательным плакатом, разработанным студентами, он может обмануть только один конкретный алгоритм YOLOv2. Он не работает даже с известными системами компьютерного зрения, разработанными Google или другими техническими компаниями и, конечно, он не работает для человека, который на него смотрит.
Это означает, что идея футболки, которая делает вас невидимым для всех систем наблюдения, остается в сфере фантастики, по крайней мере, на данный момент. Однако, по мере того, как контроль за использованием ИИ распространяется по всему миру, все больше и больше людей могут стремиться к собственной анонимности.
Комментарии
(0) Добавить комментарий