Станет ли дрон гуманнее человека?

В марте 2019 года на заседании Группы правительственных экспертов (ГПЭ) государств – участников Конвенции о «негуманном» оружии (КНО) по смертоносным автономным системам вооружений (САС) российская делегация представила свое видение проблемы, чем вызвала в зале легких шок.

«Российская Федерация исходит из того, что потенциальные САС могут демонстрировать большую эффективность, чем человек-оператор при решении поставленных задач, сокращать вероятность ошибок. В частности, такие системы способны существенно снизить негативные последствия применения оружия в контексте МГП, связанные с ошибками оператора, его психическим и физиологическим состоянием, нравственными, религиозными, моральными установками. Применение высокоавтоматизированных технологий может обеспечить повышение точности наведения средств поражения, направленных против военных объектов, способствовать сокращению вероятности непреднамеренного нанесения ударов по гражданскому населению и гражданским объектам».

Дело в том, что с декабря 2016 года эта конференция обсуждает возможность полного запрета САС.



Смертоносные автоматы и беспилотные аппараты

С такой инициативой выступили не только видные мировые общественные и религиозные деятели, но несколько известных международных неправительственных организаций и даже ряд национальных делегаций. Кампания против «роботов-убийц» Stop Killer Robots борется за полный запрет с 2013 года. Ватикан неоднократно призывал «не допустить, чтобы смертоносные автономные системы стали реальностью завтрашней войны». У мировой общественности к боевым роботам много претензий: они не смогут соблюдать международное гуманитарное право и права человека, их использование противоречит нормам человеческой морали, непонятно, кто будет нести ответственность за их преступления.

Несложно понять, с каким удивлением борцы против роботов-убийц услышали: «Действующие системы военного назначения высокой степени автоматизации не следует выделять в «особую» категорию, нуждающуюся в немедленных ограничениях и запретах. Именно такой уровень автоматизации позволяет подобным системам действовать в динамичной боевой обстановке и в различных средах, обеспечивая при этом надлежащую степень избирательности и точности и, как следствие, их соответствие принципам и нормам МГП».

Не все участники конференции обратили внимание на важное замечание. Россия делает различие между высокоавтоматизированными и автономными системами. «Российская Федерация полагает, что предмет обсуждения в ГПЭ по САС должен ограничиваться полностью автономными системами, под которыми мы предлагаем понимать «безэкипажные технические средства, не являющиеся боеприпасами и предназначенные для выполнения боевых и обеспечивающих задач без какого-либо участия оператора». В этой связи выступаем против обсуждения тематики беспилотных летательных аппаратов в контексте САС в рамках КНО, поскольку они представляют собой частный случай высокоавтоматизированных систем и не относятся к САС».

Участники конференции решили, что российская делегация выступает против соглашений по новым вооружениям: «Существующее международное право, включая МГП, содержит ряд важных ограничений, которые полностью распространяются на системы вооружений с высокой степенью автоматизации и не нуждаются в модернизации или адаптации к специфике данных средств».

Россию прочно занесли в список противников запрета САС, в котором также находятся Соединенные Штаты и некоторые их союзники.

Между тем современные войны показывают, что человек уже уступает беспилотным системам в умении соблюдать международное законодательство и законы войны.


Эхо карабахского конфликта

О том, что во время конфликта в Нагорном Карабахе обе стороны совершали военные преступления, говорится в докладах Amnesty International, Halo Trust, Human Rights Watch, а также казахстанского экспертного центра Factcheck.kz. Помимо гибели, по разным данным, от 5 до 10 тыс. военных, гражданские потери в конфликте составили 155 погибших и 571 раненых.

«Во время недавних боев в Нагорном Карабахе военные с обеих сторон вели себя чудовищным образом, демонстрируя полное пренебрежение правилами ведения войны», – заявил директор по исследованиям Amnesty International в Восточной Европе и Центральной Азии Денис Кривошеев. – Власти Азербайджана и Армении должны немедленно провести независимое, беспристрастное расследование и установить всех ответственных в этих преступлениях. Виновные, а также все без исключения командиры, которые отдавали приказы, допускали или потворствовали этим преступлениям, должны быть привлечены к ответственности».

В своих докладах международные неправительственные организации, помимо актов вандализма и издевательств над пленными и телами убитых, «отмечают применения в населенных районах тяжелых вооружений и оружия взрывного действия», в результате которых «сотни жилых домов и ключевых объектов инфраструктуры, таких как больницы и школы, уничтожены или повреждены огнем тяжелой артиллерии и ударами с воздуха, в том числе ракетными». Международный комитет Красного Креста подчеркивает, что «применение оружия взрывного действия с широким радиусом поражения против военных целей в населенных районах может представлять собой нарушение международного гуманитарного права, нормы которого запрещают неизбирательные и несоразмерные нападения».

Amnesty International утверждает, что и Армения, и Азербайджан применяли тяжелое вооружение с широким радиусом действия в густонаселенных гражданских районах. Эксперты из группы кризисного реагирования Amnesty International изучили имеющиеся доказательства, которые, по их мнению, «убедительно свидетельствуют об использовании баллистических ракет и заведомо неприцельных залпов реактивных систем залпового огня (РСЗО), которые привели к гибели, ранениям и широкомасштабному ущербу среди гражданского населения, что является явным нарушением международного гуманитарного права». Азербайджанский город Гянджа неоднократно подвергался артиллерийским обстрелам с армянской стороны. Денис Кривошеев отмечает «свидетельства применения баллистических ракет и других взрывчатых веществ с широким радиусом действия в гражданских районах».

Amnesty International подтвердила факты применения Арменией запрещенных кассетных бомб, а также РСЗО «Смерч» в ходе атаки на азербайджанский город Барда. В частности, эксперты Amnesty International продемонстрировали фрагменты кассетных боеприпасов 9Н235 от ракет российского производства 9M55 «Смерч».

Согласно той же Amnesty International, азербайджанская сторона применила кассетные боеприпасы M095 DPICM по городу Степанакерт, региональной столице Нагорного Карабаха. «Кассетные боеприпасы по своей сути являются неизбирательным оружием, и их применение при любых обстоятельствах запрещено международным гуманитарным правом», – заявила Мари Стратерс, региональный директор Amnesty International по Восточной Европе и Центральной Азии.

Специалисты Halo Trust, организации, которая занимается разминированием в Нагорном Карабахе, также предъявляют доказательства использования неуправляемых снарядов РСЗО «Смерч» и кассетных боеприпасов.

Журналисты «Платформы проверки фактов» выложили в интернет многочисленные фотодоказательства использования Азербайджаном в карабахском городе Гадрут кассетных бомб, выпущенных реактивной системой залпового огня израильского производства LAR-160.

Казахстанская редакция Factcheck.kz изучила фото- и видеосвидетельства обеих сторон и заключила, что во время бомбежки Степанакерта действительно использовалось запрещенное оружие (кассетные снаряды/бомбы) израильского производства, а именно – снаряды, выпущенные с помощью системы залпового огня израильского производства LAR-160. На основе собранных свидетельств Factcheck.kz заключает, что кассетные бомбы использовались Азербайджаном при атаке как минимум Степанакерта и Гадрута.


Сумма нарушений

Наконец, и Human Rights Watch свидетельствует: «По итогам проведенного нами полевого исследования в Степанакерте, административном центре Нагорного Карабаха, были выявлены многочисленные случаи использования азербайджанскими силами заведомо неизбирательных кассетных боеприпасов, реактивных снарядов и других систем вооружений, не позволяющих проводить различие между военными целями и гражданскими объектами». В частности, в докладе HRW говорится:

С 27 сентября по 28 октября азербайджанские силы наносили по Степанакерту удары, временами – с использованием кассетных боеприпасов и РСЗО «Смерч» и «Град», которые не обеспечивают точного наведения на цель.

Азербайджанские силы неоднократно наносили удары по центральному диспетчерскому пункту и подстанции «Арцахэнерго», применяя реактивные снаряды, в том числе с кассетной головной частью, и авиационные боеприпасы.

Ночью 3 октября азербайджанские силы обстреляли район диспетчерского пункта и подстанции «Арцахэнерго» реактивным снарядом РСЗО LAR-160. Наши исследователи осмотрели фрагменты реактивного снаряда примерно в 100 м от здания и многочисленные характерные следы срабатывания суббоеприпасов М095, фрагменты розовых стабилизационных лент и фрагменты самих суббоеприпасов, которые находились преимущественно вдоль улицы, прилегающей к зданию «Арцахэнерго» и подстанции.

На трех видео слышен звук реактивного самолета в небе, на двух, снятых с разных точек, в кадре боеприпас падает на подстанцию под углом 80–90 градусов. Угол падения и присутствие в тот момент в небе самолета соответствует картине сброса авиабомбы. В 13.00 в пределах минуты по району подстанции было нанесено всего около пяти ударов, некоторые попадания пришлись на удалении свыше 400 м от подстанции.

4 октября азербайджанские силы обстреляли место нахождения центрального офиса Карабах Телекома в Степанакерте, включая вышку радиосвязи, из РСЗО LAR-160, рассеяв по близлежащей территории сотни суббоеприпасов М095.

В своих публикациях Human Rights Watch приводит многочисленные документальные свидетельства применения реактивных снарядов LAR-160 с кассетной головной частью, фотографии фрагментов самого реактивного снаряда LAR-160, множество характерных следов разрывов суббоеприпасов М095, фрагментов стабилизирующих лент розового цвета и фрагменты суббоеприпасов.

Суммируя факты, запротоколированные организациями МККК, Amnesty International, Human Rights Watch, Halo Trust и Factcheck.kz, можно отметить использование в конфликте в нарушение международного гуманитарного права следующих вооружений:

— тяжелая артиллерия (122-мм и 152-мм орудия);

— советские 122-мм РСЗО БМ-21 «Град»;

— 300-мм реактивные снаряды 9М55К с кассетной головной частью российской РСЗО 9M58 «Смерч»;

— кассетные боеприпасы M095 DPICM (Dual-Purpose Improved Conventional Munition) для 160-мм РСЗО израильского производства LAR-160;

— авиационные бомбы;

— баллистические ракеты Р-17 ракетного комплекса оперативно-тактического назначения 9К72 «Эльбрус» (SS-1c Scud B).


«Автономный убийца» не оставляет следов

При этом в докладах нет ни одного упоминания использования автономных вооружений в нарушение МГП. В сети можно найти сотни видеосюжетов, фиксирующих удары беспилотников по системам ПВО, бронетехнике и даже живой силе. Однако ни одна из упомянутых организаций не посчитала, что атаки дронов нарушают международное гуманитарное право или права человека.

Автономные системы не просто продемонстрировали способность выполнить боевую задачу с соблюдением МГП, но практически в эфире продемонстрировали наличие контроля со стороны человека, а также потенциальную возможность атрибуции (идентификации) ответственного за нанесенный ущерб.

Безусловно, такой результат нельзя считать универсальным. БПЛА относятся к высокоточным вооружениям, и этим отличаются от предыдущих поколений вооружений, которые разрабатывались с целью нанесения максимального ущерба. Но на примере БПЛА нельзя судить о том, каким будет характер использования, например, наземных автономных систем, которые сегодня разрабатывают многие страны.

Воздушные дроны в основном не предназначены для ударов по живой силе. Например, тактику применения беспилотников Азербайджана описывают следующим образом. С первых дней дроны осуществляли избиение ПВО противника. После решения проблемы ПВО они переключились на танки, боевые машины, артиллерию и грузовики, перевозившие боеприпасы и подкрепления. Только за этим последовала серия ударов непосредственно по позициям армянской пехоты и по складам с боеприпасами. Кроме того, на протяжении всей войны дроны наводили на технику и скопления пехоты свою артиллерию.

Но в первую очередь очевидно именно то, что автономные вооружения могут хирургическими методами решать те задачи, для решения которых в ХХ веке требовались массированные удары.

В своем интервью президент Международного комитета Красного Креста Петер Маурер сказал: «Я не видел за восемь лет во главе МККК, и организация не видела за 157 лет существования войны, которая бы не сопровождалась нарушениями Женевских конвенций и международного гуманитарного права». Возможно, в Карабахе автономные системы стали примером того, как вооружения XXI века смогут вести боевые действия с соблюдением правил ведения войны.


Поверить алгеброй гармонию

Основной принцип международного гуманитарного права – принцип проведения различий – предусматривает, что нападающая сторона обязана обеспечить:

— различие между гражданскими лицами и комбатантами;

— различие между гражданскими объектами и военными объектами;

— запрет на нападения неизбирательного характера (нападения, которые не направлены на конкретные военные объекты и которые, таким образом, поражают военные объекты и гражданских лиц или гражданские объекты без различия);

— соблюдение принципа соразмерности при нападении (запрещены нападения, которые, как можно ожидать, попутно повлекут за собой потери жизни и ранения гражданских лиц и ущерб гражданским объектам, которые были бы чрезмерны по отношению к предполагаемому военному преимуществу);

— соблюдение мер предосторожности при нападении (нападающая сторона обязана выяснить характер объектов нападения, выбрать средства и методы ведения войны, предварительно оценить последствия нападения и заблаговременно предупредить гражданское население о возможных угрозах);

— ограничение средств и методов ведения войны (запрет на излишние разрушения или причинение чрезмерных страданий).

При практическом анализе принципов МГП становится очевидным, что закон требует от военачальников наличия механических навыков и математических способностей:

— распознания образов;

— способности отличить военных от гражданских лиц;

— способности распознавать и различать военные и гражданские объекты;

— знания технических характеристик собственных вооружений;

— знания возможностей вооружений противника;

— умения просчитать оборонительные действия противника и их боевую эффективность;

— способности рассчитать минимальные силы и средства, необходимые для достижения военных целей;

— умения определить способ нанесения минимального ущерба гражданским лицам и объектам при выполнении боевой задачи.

Для этого командиры должны располагать широкими знаниями, значительными аналитическими способностями и арифметическими навыками. Иными словами, обширной базой данных, высокой вычислительной мощностью и способностью к обработке больших данных. То есть именно тем, чем обладают нейронные сети или искусственный интеллект.

Сам принцип соразмерности (в английском варианте – proportionality) указывает на математическую основу правил ведения войны. Компьютер, вероятно, способен совершить все требуемые подсчеты на много порядков быстрее и точнее человеческого разума, отягощенного предрассудками, чувствами и рефлексией. Результаты применения автономных вооружений в Нагорном Карабахе могут послужить тому подтверждением.

Эти расчеты окажутся еще надежнее, когда вооруженные силы сформируют «сетецентрическую систему», объединяющую вычислительные мощности и различные ресурсы с помощью военного «облачного хранилища». Этим сегодня заняты все передовые армии мира. И даже если прототипы (прекурсоры) САС не смогут соперничать с человеком в соблюдении МГП, следующие поколения автономных вооружения станут «образцовыми солдатами» и опередят человека подобно тому, как компьютер вышел в лидеры в шахматах или игре Го.

В случае когда нарушения МГП со стороны автономных систем будут зафиксированы, системы регистрации или «черный ящик» с записью основных параметров послужит инструментом для расследования.

Здесь следует сделать оговорку: пока мы можем судить об автономных системах только на примере воздушных ударных беспилотников, для которых основной мишенью служит не человек, а машина. Ситуация может оказаться иной, когда на поле боя выйдут наземные автономные дроны. Несколько десятков стран сегодня совершенствуют свои беспилотные боевые машины. Наземные роботы в боевых действиях, где неизбежен контакт с людскими массами, могут потрясти мир своей «эффективностью».

Но представляется, что главной проблемой смертоносных автономных систем будет не неспособность соблюдать МГП, а отсутствие представления о человеческом достоинстве. Самый умный компьютер будет оставаться бездушной машиной, неспособной, к примеру, осмыслить оговорку Мартенса и соблюдать «принципы гуманности и требования общественного сознания».

Человечность и гуманность едва ли поддаются оцифровке. Этот недостаток надолго (возможно – навсегда) останется ахиллесовой пятой всякого самого умного аппарата. По этой причине человек не должен выпустить из рук контроль над автономными вооружениями. Машина, какой бы продвинутой она не была, не должна получить право лишать человека жизни.


Технологии против здравого смысла

Ценность человеческого достоинства могла бы стать достаточным аргументом в пользу запрета или строгого ограничения САС. Однако это представляется невозможным по ряду чисто технических и политических причин:

Испытания дистанционно управляемых наземных роботов в ряде стран показали, что эффективная дальность радиосвязи с оператором не превышает двух-пяти км. В автономном режиме наземный робот будет способен действовать на удалении до 500 км. Ограниченная радиосвязь становится техническим препятствием, заставляющим военных разрабатывать абсолютно автономные режимы использования САС.

Современные боевые действия предусматривают активное применение средств радиоэлектронной борьбы (РЭБ) для подавления или изменения качества управления, связи и разведки противника. В настоящее время эта разновидность вооруженной борьбы переживает подъем. Радиоэлектронное подавление считается одним из эффективных средств борьбы с автономными системами.

У разработчиков нет универсального решения для сохранения контроля над дистанционно управляемым боевым роботом, подвергшимся РЭБ-атаке. Возможные сценарии для потерявшего связь дрона таковы:

— попытаться выйти в район с устойчивой связью;

— вернуться на базу;

— остаться на месте до получения указаний;

— перейти в автономный режим.

С точки зрения военных, последний вариант должен быть предусмотрен как «бронепоезд на запасном пути».

Новые технологии САС, как правило, возникают не в головах военных стратегов или политических лидеров. Их порождают лаборатории, их выпестовывает промышленность, а лоббисты продвигают их на вооружение армий. Иначе говоря, военные технологии развиваются при слабом общественном контроле в режиме гонки вооружений, которая до поры до времени остается скрытой от глаз стенами конструкторских бюро.

Верификация САС представляется технически сложной, но не невозможной задачей. Видеоролики в интернете подтверждают, что применение высокоточных боеприпасов неплохо «протоколируется»: оператор осуществляет видеозапись, которая, вероятно, хранится в архиве министерства обороны.

То есть теоретически существует возможность при необходимости изучить обстоятельства конкретного случая применения оружия. Значит, можно заключить международное соглашение о предоставлении такого рода видеосвидетельств в определенных случаях. Такие материалы могли бы служить подтверждением того, что оператор сохранял контроль над беспилотным аппаратом во время атаки.

Впрочем, соображения секретности будут превалировать для большинства передовых армий мира при рассмотрении верификационных мер. Верификационные механизмы неизбежно начнут вторгаться не только в организационные механизмы воинских подразделений, но также в техническое устройство и программное обеспечение новейших вооружений. Кроме того, верификационные меры по контролю над САС будет нетрудно обойти: в конце концов, вся разница между автономным и дистанционно управляемым аппаратом скрыта в программном обеспечении, которое, в отличие от «бронепоезда на запасном пути», легко утаить. И здесь контроль над САС упирается в проблему глобального политического недоверия.

Мир возвращается к временам холодной войны. Планета испытывает дефицит доверия, и новые информационные и кибертехнологии только обостряют ситуацию. Когда вся система контроля над вооружениями распадается под реальными и надуманными предлогами, едва ли можно надеяться на взаимопонимание в такой чувствительной сфере как контроль над САС.

В силу подобных обстоятельств полный запрет САС представляется невозможным. Но политическая декларация, участники которой взяли бы обязательства придерживаться сохранения человеческого контроля над беспилотными ударными системами, может оказаться приемлемой альтернативой бесконтрольному распространению «автономных терминаторов» по планете.

В пользу этого говорят 11 принципов, принятые в сентябре 2019 года Группой правительственных экспертов по новым технологиям в области САС. Один из принципов гласит: «Должна быть сохранена ответственность человека за решения о применении оружейных систем, поскольку ответственность не может быть переложена на машину». В конце концов, человечество отличает от машин гуманизм, человечность и бережное отношение к человеческому достоинству.

Автор текста - Вадим Борисович Козюлин– заведующий Центром глобальных исследований и международных отношений.