Андрей Морозов
Они уже себе на уме.
Фото автора
На то они и писатели-фантасты, чтобы порой предвидеть и предсказывать феномены, которые поначалу кажутся лишь игрой воображения. Итак, цитата…
«Как я узнал из текста сообщения, NASA и Disney Studios еще два года назад заключили сделку по отправке на Марс нескольких тысяч «муравьев» – миниатюрных роботов с камерами. На днях они стали транслировать свои съемки на Землю, и Марс превратился в виртуальный парк развлечений».
Это – строчки из киберпанковского романа Мерси Шелли «Паутина» (2002). А вспомнились они в связи с появившимися буквально друг за другом – с разницей в день-два – несколькими сообщениями информационных агентств.
27 ноября 2012 года Министерство обороны США обнародовало новую директиву. Она устанавливает порядок взаимодействия человека с автономными и полуавтономными системами вооружения, сообщает Defense News. Согласно этому документу, Пентагон намерен сохранить контроль человека над применением оружия роботизированными системами.
То есть, как всегда, первыми положили глаз на научные разработки в области кибернетических систем военные. Оно и понятно, насыщение боевых систем кибернетическими механизмами, а в не такой уж и далекой перспективе – полноценными кибернетическими организмами сулит им действительно подлинную революцию в науке побеждать.
Сулит-то оно сулит, но в головах армейских стратегов, судя по всему, фундаментально внедрен блок: кибернетические системы – это хорошо, но у человека всегда должна оставаться возможность «выключить рубильник». Возможно, этим мы обязаны легендарному фильму «Терминатор», не иначе. По крайней мере акценты в новой пентагоновской перспективе расставлены недвусмысленно.
Основная задача – предотвращение ненамеренного задействования роботизированных боевых систем «с причинением вреда людям или объектам, не определенным человеком – оператором вооруженных сил США в качестве целей, включая уровень сопутствующего ущерба, превышающий нормы, которые оговорены «законом войны», или не соответствующий ожиданиям командующего». Впрочем, возможность для оперативного и стратегического маневра Пентагон себе все-таки оставляет: директива не вводит запрета на создание автономных кибернетических систем.
«Это просто директива на будущее, – успокаивает нас заместитель министра обороны США по политике Дэвид Очманек. – Она появилась не потому, что мы вдруг осознали, будто кто-то приблизился к созданию Терминатора, и решили отрегулировать этот вопрос. Это совсем не так».
Так это или «совсем не так» – покажет то самое будущее. Пока же возникает одна очень нетривиальная задачка: как управлять этой группой или кластером умных боевых машин, обладающих зачатками искусственного интеллекта? Ведь речь идет о синхронном взаимодействии десятков, если не сотен и даже тысяч кибернетических механизмов. Исследования в данном направлении ведутся. А пока ученые моделируют возможные эффекты кооперативного поведения этой гвардии Терминаторов.
В Национальной лаборатории США Сандиа еще в середине 1990-х годов была создана модель автономного робота MARV (Miniature Autonomous Robotic Vehicle), объем которого составлял около 1 кубического дюйма. К 2000 году его размеры удалось уменьшить более чем в четыре раза. Эта крошечная машина имела процессор с 8 кбайт памяти, датчик температуры, микрофон, видеокамеру, химический сенсор, систему беспроводной связи. Эти мини-роботы могли бы, по расчетам экспертов, объединяться для совместного решения задач под управлением центрального компьютера. По замыслу разработчиков, основной областью применения таких роботов могли бы стать поиск и обезвреживание бомб и мин, опасных биологических и химических материалов. Еще одна перспективная область применения микророботов, по мнению военных, – решение разведывательных задач.
В середине 2000-х промелькнуло сообщение – со ссылкой на агентство Mignews. com, – что американская компания Icosystems планировала создать подразделение из 120 боевых роботов, которые будут снабжены коллективным разумом. Нечто подобное используется многими общинными насекомыми, например муравьями.
Главная проблема во всех этих и им подобных проектах – незапланированные ситуации, в которые могут попасть боевые роботы. К примеру, если одна из машин лишится контакта с основной группой, она может превратиться в абсолютно неуправляемый объект. В точности так же, как муравей начинает бегать по кругу, когда находится в изоляции от членов своего сообщества. «Должны существовать некие патологические конфигурации, которые мы и должны найти», – заявляет один из специалистов компании-разработчика Эрик Бонабо.
С этого заявления прошло пять лет. И вот с данной проблемой столкнулись, уже как с реальностью, не только американские стратеги. Как сообщил 26 ноября нынешнего года Интерфакс, российские инженеры работают над созданием системы управления группами роботов, способных в том числе нести различные виды вооружения. Источник агентства в ЦНИИ робототехники и технической кибернетики (РТК) (Санкт-Петербург) заверил: «В России разрабатывается система управления группами робототехнических платформ, которые могут быть использованы для ОПК. Необходимо создать единый пункт контроля, чтобы не использовать отдельный пульт для управления каждым роботом. Такие работы ведутся».
Мало того, неназванный представитель ЦНИИ робототехники и технической кибернетики пояснил: «Мы совершенствуем систему навигации, чтобы это был не просто тупой робот на радиоуправлении, а обладал определенным алгоритмом поведения, самостоятельностью». И тут же, как и его американский коллега, проговорился: речь, мол, идет не об искусственном интеллекте, а всего лишь об алгоритме, помогающем оператору управлять кибернетическим устройством. «Искусственный интеллект не может быть создан», – почему-то уверен специалист института.
═ В Южной Корее поставлена как государственная задача – чтобы к 2020 году в каждой семье был робот. Фото автора |
Не сговариваясь, 27 ноября агентство BBC распространило информацию, что в следующем, 2013 году в Кембридже начнет работу Центр по изучению экзистенциальных рисков (CSER). Исследователи из Кембриджа займутся изучением вопроса о том, не приведет ли развитие науки и техники к гибели цивилизации. Сотрудники центра, как сообщает Би-би-си, «подвергнут анализу опасности, которыми чреваты развитие биотехнологий, создание искусственной жизни, нанотехнологии и глобальное потепление». Но что для нас сейчас важно – «ученые из центра заявили, что было бы опасным также сбрасывать со счетов риск восстания роботов».
«Представляется допустимым предположение, что в какой-то момент в этом или следующем столетии разум вырвется из оков биологии, – заявил профессор философии Хью Прайс, один из инициаторов создания CSER. – Мы пытаемся сделать вопрос об этом приемлемым для обсуждения в среде респектабельных ученых». По его мнению, когда роботы и компьютеры обгонят по уровню интеллекта человека, мы можем оказаться во власти машин, интересы которых находятся вне сферы интересов человечества. «Серьезность такой угрозы трудно оценить, но это само по себе должно вызывать тревогу, учитывая, что именно поставлено на кон», – пишут исследователи на сайте центра.
Надо сказать, что британские исследователи ссылаются в качестве примера опять же на фантастические фильмы «Матрица» и «Терминатор». Оказывается, ситуация, показанная в них – закабаление человечества роботами и системами искусственного интеллекта, – не такая уж и фантастическая. Подобная система Skynet, которая фигурирует в фильмах из серии «Терминатор», была разработана американскими военными, подчеркивает Би-би-си.
Буквально несколько дней назад американский Совет национальной разведки опубликовал доклад «Мировые тренды 2030: альтернативные миры». Среди прочего авторы этого документа предсказывают появление новых видов оружия, в том числе кибероружия. «Вероятно, произойдет гонка кибервооружений, – говорится в докладе. – Страны будут стараться… внедрить кибероружие в свои арсеналы». Правда, нам опять пытаются подсластить пилюлю: «Неизвестно, в какой степени киберинструменты будут определять будущие войны». Но получается все равно не очень сладко.
В связи с этим в качестве темы для будущих исследований экспертам из британского CSER можно было бы подкинуть и такую. Если, как уверяют военные, во всех перечисленных выше случаях речь не идет о создании полностью автономных кибернетических механизмов, а просто – о создании систем, облегчающих оператору управление группами боевых роботов, то в качестве инструмента такого управления рано или поздно потребуется создание искусственного интеллекта. И усилия в этом направлении тоже предпринимаются.
Еще в 2007 году профессор Эшель Бен-Яаков и его аспирант Итай Барухи из Тель-Авивского университета, кафедры точных наук, показали, каким образом можно связать сеть искусственных нейронов с программным обеспечением, регистрирующим изменения в нервной деятельности. Компьютер, таким образом, может сотрудничать с нейронной сетью и выполнять очень сложные задачи. Например, по управлению группами боевых «муравьев».
В общем, как и предупреждал нас Мерси Шелли, «каждый желающий мог теперь не только посмотреть на далекую планету глазами роботов, но и… арендовать на время одного из «муравьев» и самостоятельно поуправлять его движениями со своего домашнего компа».
Продолжение темы
