Тема роботов-убийц входит в повестку дня крупного совещания ООН в Женеве на этой неделе. В рамках конференции ООН по разоружению участвующие в ней страны должны после трех лет неофициальных дискуссий принимать решение о необходимости начать официальные обсуждения по запрету летального автономного оружия.
В июле прошлого года тысячи исследователей, работающих в области робототехники и ИИ, подписали открытое письмо, призывающее к упреждающему запрету такого оружия, которое может попасть в руки террористов – тогда они без всяких сомнений направят его против людей. Не стоит надеяться, что роботы будут сражаться друг с другом. Многочисленными жертвами станут невинные гражданские лица.
Это страшная и ужасающая перспектива. Но мы не должны опускать руки, нужно стремиться к ее предотвращению. В мире есть примеры коллективных решений о запрете некоторого оружия и технологий. Есть запреты на создание биологического и химического оружия. Совсем недавно были запрещены несколько технологий, в том числе, ослепляющие лазеры и противопехотные мины.
И, хотя эти запреты не являются абсолютно эффективными, вероятно, в мире будет спокойнее с запретами, чем без них. Запреты не оказали негативного воздействия на использование связанных с ними технологий. Для лечения глаз сегодня широко используется лазерная хирургия. Но никто не продает сегодня лазерное оружие. И оно не используется ни в одном из конфликтов.
Такая же ситуация должна быть и с автономным оружием. Так, никто не собирается остановить развитие автономных транспортных средств. Но если ООН примет запрет на создание автономного оружия, мы не увидим его на поле боя. И это уже хорошо.
Как и в случае с боевыми лазерами, вряд ли будет создан контролирующий орган в отношении автономного оружия. Вместо этого запрет будет реализовываться более тонкими мерами, такими как негативная информации и, в конечном счете, моральное осуждение.
Профессиональные сообщества специалистов, такие как IEEE, уже начинают действовать в этом направлении. Ранее на этой неделе IEEE выступил с инициативой по разработке этических стандартов для разработчиков автономных систем.
Доклад IEEE содержит ряд рекомендаций, включая необходимость целенаправленного контроля в случаях использования такого оружия. Не этичным следует считать выполнение без целенаправленного контроля проектирования, разработки и создания систем автономного оружия, которые будут использоваться для убийства людей.
Многие люди по всему миру поддерживают введение такого запрета. Даже девять членов Конгресса США написали в министерство обороны страны на прошлой неделе, поддерживая призыв к превентивному запрету.
Все технологии могут иметь двойное, хорошее или плохое, назначение. Нам нужно принять в ближайшее время сознательное и эффективное решение для успешного развития человечества. Ждем решения ООН в пятницу, скрестив пальцы.
Комментарии
(0) Добавить комментарий