Смогут ли стать реальностью «роботы-убийцы»?

Роботы, способные целенаправленно и бесконтрольно со стороны человека убивать, могут сойти со страниц научно-фантастических романов и стать реальностью в повседневной жизни. Именно эта проблема вошла в повестку дня международной конференции ООН по разоружению, которая в понедельник открывается в Женеве. Десятки экспертов в течение пяти дней будут изучать все последствия применения так называемых «Систем автономного летального оружия» (Lethal Autonomous Weapon System - LAWS).

Цель исследователей состоит в том, чтобы убедить международное сообщество в необходимости содействия глобальному запрету такого оружия, распространение которого в корне расходится с этическими нормами, входит в противоречие с нормами законов и международным правом в военных конфликтах. Кто понесет ответственность, если робот совершит преступление?

"Я очень оптимистичен в отношении возможности заключения договора о запрете такого оружия", - говорит Ноэл Шарки, почетный профессор Университета Шеффилда в области искусственного интеллекта и робототехники. Академик ведет широкую международную кампанию против использования военных роботов – «Остановите роботов-убийц».

"Сегодня много стран вовлечены в этот процесс, хотя такие решения и требуют много времени", - добавляет он. Шарки, который посвятил почти десять лет изучению этой проблемы, говорит, что конференция в Женева созвана, "из-за того что есть много мнений о роботах-убийцах. Поэтому необходимо тщательно проанализировать мнения экспертов в области вооружений, прежде чем принимать решение".

Целью этой конференции является контроль над видами вооружений, которые принято называть "негуманным оружием". Также необходимо проработать международные соглашения, запрещающие, например, некоторые виды наземных мин и ослепляющие лазеры. Это оружие было запрещено, перед тем его начали использовать, ученые стремятся к тому, чтобы предотвратить и создание роботов-убийц.

Многие страны уже разработали системы автономного оружия, такие как американский самолет X47-B, который может самостоятельно взлетать и приземляться. В действительности, эффективность израильской системы Железный купол определяется элементами робототехники. Изобретено также оружие, которое может самостоятельно перемещаться, например, Samsung SGR-1 – корейский патрульный робот для охраны границы с Северной Кореей, но решение об открытии огня по-прежнему принимает человек ... сейчас.

Перед встречей в Женеве Международная организация по защите прав человека и Гарвардская юридическая школа опубликовали отчет о том, к чему приведет использование на поле боя машин с возможностью решения ими вопроса о жизни и смерти. Выводы этого исследования однозначны. "Мы рекомендуем запретить в рамках международного правового документа разработку, производство и использование полностью автономных систем оружия".

Один из аргументов противников этой международной антивоенной кампании, в принципе, звучит не плохо, и заключается в том, чтобы машины воевали вместо людей. Используемый сценарий напоминает события в фильмах о Терминаторе. С моральной точки зрения, многие люди находят ужасной идею делегировать машинам право принимать решения о жизни и смерти в вооруженных конфликтах. Кроме того, полностью автономному оружию не свойственны страх или гнев, у него не будет чувства сострадания, ключевой гарантии, чтобы избежать убийства мирных жителей.

Из-за того, что это оружие способно радикально изменить способы ведения войны, оно также может спровоцировать гонку вооружений. Как только оно будет полностью разработано, его распространению поспособствуют безответственные лидеры государств или террористические вооруженные группы. Некоторые критики также утверждают, что использование роботов может упростить для политических лидеров использование силы, благодаря потенциальному сокращению потерь в живой силе.

Ко всему этому следует добавить законы международного права в вооруженных конфликтах. Эксперты проводят параллели с автономными автомобилями, полностью разработанной технологией, но пока не реализуемой из-за того, что не решена проблема ответственности, если произойдет несчастный случай с автомобилем, которым управляет робот.

Международный комитет по контролю над военными роботизированными системами (ICRAC), состоящий из ученых, юристов, экспертов по правам человека, разработал для встречи в Женеве доклад с освещением глобальных проблемам безопасности, связанных с полностью автономными системами оружия. "Мы находимся на критически важном этапе в эволюции вооружений. Ещё не поздно предотвратить автоматизацию решения убивать, чтобы гарантировать, что все оружие будет находиться под контролем людей".