Ватикан: применение «роботов-убийц» противоречит основам гуманности
Виктор Владимиров – Град Ватикан
«С самого начала дискуссии о смертоносных автономных системах оружия Святейший Престол постоянно подчёркивает, что проблемы, возникающие в связи с появлением новых технологий в этой области, не ограничиваются сферой международного гуманитарного права, но могут иметь серьёзные последствия для мира и стабильности». Об этом заявило Постоянное представительство Ватикана при ООН и других международных организациях в Женеве на заседании Группы правительственных экспертов по системам автономного летального оружия (LAWS) в перспективе Конвенции ООН о запрещении или ограничении применения конкретных видов обычного оружия. Поскольку темой обсуждения были аспекты международного гуманитарного права, Святейший Престол представил по этому поводу размышления, основанные на трёх основных моментах.
«Конвенции и договоры международного гуманитарного права содержат множество тщательно сформулированных выражений (таких как "предполагаемый", "можно ожидать", ‘ненужный ущерб’, ‘излишние страдания’), которые главным образом зависят от интерпретации, добросовестности и разумного суждения. Эти аспекты отчасти основаны на информации о меняющемся контексте операций, для которых человек незаменим, учитывая действия, требующие вмешательства человеческого разума, например, идентификацию, соразмерность, предосторожность, необходимость и ожидаемое военное преимущество. Соблюдение и применение этих принципов требуют точной интерпретации, а также понимания конкретного контекста и ситуаций, которые сложно запрограммировать». «Хорошо известно, что юридические и этические решения нередко требуют интерпретации правил, чтобы сохранить дух этих правил, – отмечается в документе. – В этом отношении летальные автономные системы вооружений, способные самообучаться или самопрограммироваться, обязательно оставляют место для определённого уровня непредсказуемости, который – ради максимальной эффективности – может, например, ‘отклониться’ в отношении некомбатантов, нарушая тем самым принцип различения».
Постоянное представительство Святейшего Престола указывает на опасность использования роя малоразмерных беспилотников-«камикадзе» в городских районах: это может привести к высоким рискам для гражданского населения. «Без непосредственного контроля со стороны человека такие системы могут ошибаться при определении намеченных целей. Концепция стаи автономного оружия ещё больше усугубляет этот риск, поскольку стохастическая природа роя может привести к чрезмерным повреждениям и неизбирательным действиям, что явно противоречит международному гуманитарному праву».
В отношении искусственного интеллекта на службе оружия, отмечается в документе, растёт понимание среди видных учёных, инженеров, исследователей, военных, специалистов по этике и широких слоёв гражданского общества: «Всё чаще – по этическим соображениям – сотрудники и предприниматели выступают против определённых проектов, связанных с военным использованием искусственного интеллекта», – подчёркивается в заявлении. Это растущее осознание, безусловно, представляет собой перемену в общественном мнении, которое также является движущей силой имплементации и развития международного гуманитарного права: «Хотя автоматизированные системы вооружений могут считаться ‘нормальными’ в статистическом смысле этого термина и, таким образом, называться приемлемыми (даже если они прямо не запрещены), они недозволительны с точки зрения морали, духовных ценностей, опыта и военных добродетелей, – подчёркивается в документе. – В этом отношении оговорка Мартенса, которая находится на стыке международного гуманитарного права и этики, но прежде всего является юридическим обязательством, закреплённым в различных договорах международного гуманитарного права, служит важнейшим нормативным компасом для нашей работы».
