Дроны скоро могут стать убийцами

Армия США недавно объявила о разработке первых дронов с ИИ, которые могут обнаруживать и брать на прицел транспортные средства и людей. В то время, как нынешние военные дроны по-прежнему контролируются людьми, эта новая технология будет решать, кого убивать, практически без участия человека.

Появление таких дронов будет означать окончательную милитаризацию ИИ и приведет к огромным правовым и этическим последствиям для всего общества. В то же время это может расширить сферу ведения боевых действий, в которую попадут компании, инженеры и ученые, использующие ИИ и становящиеся реальными военными целями.

Существующие смертоносные военные дроны, такие как MQ-9 Reaper, тщательно контролируются и управляются через спутник. Если пилот сбрасывает бомбу или запускает ракету, оператор направляет их на выбранный объект с помощью лазера.

В конечном счете, управляющий экипаж несет полную ответственность за уничтожение обозначенных человеком целей. Даже с этими беспилотными убийствами человеческие эмоции, суждения и этика всегда оставались в эпицентре войны. Наличие психических травм и посттравматического стрессового расстройства среди операторов дронов показывает психологическое воздействие дистанционных убийств.

И это может стать для военных неким возможным этическим аргументом в поддержку автономно убивающих дронов. Может быть, если эти дроны сами сбрасывают бомбы, можно избежать психологических проблем среди членов экипажа? Но юридическая и этическая ответственность не исчезает так просто, если освободить человека от надзора за военной операцией. Вместо этого ответственность будет все больше падать на других людей, в том числе ученых, занимающихся проблемами ИИ.

Правовые последствия этих событий уже становятся очевидными. В соответствии с действующим международным гуманитарным правом объекты «двойного назначения», которые создают продукты как для гражданского, так и для военного применения, могут быть подвергнуты нападению в определенных обстоятельствах. Например, это могут быть автозаправки, которые могут заправлять танки и гражданские автомобили.

Если машинам будет позволено принимать решение об уничтожении, особенно в большом масштабе, то мы станем свидетелями истребления человечества. Любое правительство или военные, которые освобождают такие силы, будут нарушать те ценности, которые, по их утверждению, они защищают.