Исследовательская группа из университета в Буффало опубликовала документ, который предполагает, что запрет и демонизация автономного оружия или «роботов-убийц» может быть временным решением, но в действительности проблема заключается в том, что общество вступает в ситуацию, когда подобные системы становятся реальной возможностью.
Роботы-убийцы в центре классических историй, представленных в таких фильмах, как «Терминатор» и «Машина Судного дня» из оригинального сериала Star Trek, но идея полностью автономного оружия, действующего независимо от человека, уже не является прерогативой писателей-фантастов.
В бюджет Пентагона уже заложена статья расходов на роботов-убийц, поэтому ряд общественных организаций работают сообща над тем, чтобы остановить их разработку. Управление и контроль в таких системах, как роботы-убийцы, должен находиться вне реальных продуктов. «Мы должны деконструировать термин «робот-убийца» на более мелкие культурные технологии», - говорит один из авторов документа Теро Карппи.
Любые разговоры о роботах-убийцах звучат на первый взгляд, как упражнения в фантазии, но в это время одни пытаются предотвратить развитие опасных технологий, а другие пытаются заложить основы их будущего развития. Пентагон выделил 18 миллиардов долларов на разработку систем и технологий, которые могли бы заложить основу для полностью автономного оружия, инструментов для самостоятельного поиска, выявления врага и нападения на него.
Дипломатическим ударом для потенциального театра войны машин стала организованная в 2012 году общественными организациями кампания с тем, чтобы остановить роботов-убийц, направленная на запрет разработки такого оружия. Но Карппи и его соавторы утверждают в своей статье, «что необходимо пересмотреть состав реальной угрозы».
«Программное обеспечение и этические системы работают по определенным правилам, - говорит Карппи. - Мы можем принять системы и программное обеспечение на основе этических правил? Какую этику мы выберем? Что позволено делать программному обеспечению?»
Самоуправляемые автомобили работают на основании правил дорожного движения: когда остановиться, повернуть, уступить дорогу или продолжить движение. Но автономному оружию нужно различать друзей и врагов и пожалуй, самое главное понять, когда человек меняет поведение, например, когда сдается в плен.
«Мы не должны сосредоточиваться только на технической стороне проблемы, - говорит он. - Но, скорее, на идеологических, культурных и политических мотивах, которые управляют этими технологическими разработками».
Комментарии
(0) Добавить комментарий