Боевых роботов впишут в законодательные рамки

Эксперты опасаются, что дроны и другие высокотехнологические типы вооружений могут попасть в руки террористов. Фото с сайта www.dvidshub.net

В Женеве открылась встреча правительственных экспертов, на которой обсуждается регулирование автономного летального оружия (АЛО). В проходящем под эгидой ООН мероприятии примут участие около 60 ведущих специалистов в области применения искусственного интеллекта (ИИ) в военной сфере. Несмотря на усиливающиеся призывы запретить АЛО, это едва ли будет сделано, прогнозируют эксперты. Прежде всего потому, что на такой шаг не пойдут ведущие державы – Китай, Россия и США.

Отказ от запрета на разработку АЛО сейчас может привести к разрушительным последствиям, которые дадут о себе знать уже через несколько лет. С таким предостережением к мировому сообществу обратились участники движения «Остановите роботов-убийц». Среди его сторонников эксперты в области ИИ и бизнесмены, включая главу Tesla Элона Маска и сооснователя принадлежащей Google компании DeepMind Technologies Мустафу Сулеймана.

Как заявил активист движения «Остановите роботов-убийц», профессор ИИ в Университете Нового Южного Уэльса в Австралии Тоби Уолш, АЛО способно изменить характер боевых действий и, если будет разработано, может попасть к террористам и государствам-изгоям. «АЛО станет оружием массового уничтожения. В скором будущем один программист, имея под рукой 3D-принтер, сможет сделать то, для чего ранее требовалась целая армия людей. Война выйдет на индустриальный уровень, изменятся ее скорость и протяженность. Они (роботы-убийцы. – «НГ») смогут убивать нас круглые сутки – быстрее, чем мы сможем себя защитить», – цитирует Уолша издание Guardian.

О рисках использования ИИ в военных целях предупредил и профессор кафедры философии и госуправления в Школе управления Блаватника при Оксфордском университете Томас Симпсон. «Помимо риска попадания таких вооружений к террористам или государствам-изгоям стоит понимать, насколько смертоносным средством являются АЛО. Представьте себе последствия, которые могут вызвать множество начиненных взрывчаткой дронов, оснащенных системой распознавания лиц из базы данных в Facebook», – рассказал он «НГ».

Отметим, что на сегодняшний день на 100% автономными моделями вооружения не владеет ни одна страна. Вместе с тем 381 модель частично автономного вооружения уже используется или находится в разработке в 12 государствах. В эту дюжину входят Россия, Франция, Израиль, Китай, Великобритания. А по прогнозам Международной корпорации данных, мировые затраты на разработки в области роботизации возрастут с 91,5 млрд долл. в 2016 году до 188 млрд в 2020-м.

Хотя полностью запретить использование роботов в военных целях, вероятно, невозможно, пытаться добиться этого стоит, считает координатор кампании «Остановите роботов-убийц» Мэри Вэйрхэм. В качестве примера она привела отказ от использования противопехотных мин, под которым в 1997 году подписались 120 стран – членов ООН. «История показывает нам, как ответственные государства находили способы подкреплять уже существующие запреты, введенные на уровне международных законов, дополнительными ограничениями, чтобы защитить мирное население», – заявила она.

Вместе с тем ряд крупных стран, включая Францию, США, Китай и РФ, к идее запрета АЛО относятся со скепсисом. Об этом сообщает издание Politico со ссылкой на собственные источники. А как дали понять американские власти накануне конференции, использование АЛО имеет не только недостатки, но и серьезные преимущества. В частности, боевой ИИ располагает более точной системой прицеливания, а потому может уменьшить потери мирного населения в ходе военных действий.

Говорить о полном запрете АЛО нельзя – этого не предусматривает Конвенция о запрещении или ограничении применения конкретных видов обычного оружия, говорит Симпсон. «Ни у кого нет полномочий, чтобы следить за исполнением такого моратория, – пояснил эксперт. – Поэтому единственным выходом для сторонников запрета остается сценарий, при котором правительства добровольно откажутся от использования АЛО, – как это произошло в случае с запретом на противопехотные мины».

Вместе с тем, рассуждает Симпсон, к такому шагу едва ли готовы передовые военные державы: «Дело в том, что страна, которая будет использовать ИИ в боевых действиях, получит огромные тактические преимущества перед соперниками. А единственный способ эти преимущества нейтрализовать – разработать собственные боевые машины с искусственным интеллектом».

Поэтому, считает Симпсон, для запрета АЛО лидеры в военной сфере должны знать наверняка, что их соперники также не станут применять такие технологии. «Для этого требуется высокий уровень доверия, но, как мы наблюдаем, сегодня это доверие, наоборот, только падает», – подчеркнул он.

В свете этого Симпсон полагает: вместо разговоров о запретах страны ООН должны попытаться достичь две цели. Во-первых, принять политику «неприменения первым», то есть дать гарантии, что они будут использовать боевых роботов не для нападения, а лишь в целях защиты. Во-вторых, запретить частное производство АЛО. «Такие шаги помогут избавиться от некоторых весьма серьезных рисков, связанных с автономными боевыми роботами», – заключил Симпсон.