Искусственный интеллект – это ум иной природы

Техническая цивилизация обладает могучей мускулатурой, распорядиться которой можно по-разному. Вадим Войтехович. Заглянуть за горизонт, 2011. Почтовая открытка

Культура – лишь тонкая 

яблочная кожура

над раскаленным хаосом.

Фридрих Ницше

На плечах нового века рвется и расползается пиджак современности. Регламенты и протоколы уходящей эпохи лишь амортизируют перемены. Футуристичный ландшафт постсовременности – институциональные коридоры без стен – схож с иллюзорным общежитием ланей и львов, разделенных незримыми барьерами на лужайках Бронкса. Zeitgeist (Дух Времени) все чаще напоминает терзания нерешительного кафкинианского «землемера» К., взыскующего официального приглашения в Замок. Главный же вопрос эона: «А что, так можно было?»

Мифы и сказки кодируют странствующие архетипы наподобие «биполярной мировой войны» птиц и зверей. Нынешняя борьба за будущее расширяет список участников, включая в него земноводных тварей, рои насекомых и прочих, подчас сложно определимых персонажей. А также инновационные композиции с искусственным интеллектом. Перестройка архитектуры человеческого общежития ускоряется. В институтах практики происходит смещение стереотипов, смешение военного и гражданского этоса. Однако это скорее калейдоскоп гибридного мира, нежели огненные сумерки вселенской бойни. Повседневность не отходит на второй план, но меняет привычные очертания.

Дигитальный разум

Сложный мир востребовал сложный интеллект, инициировав поиск сложноорганизованного субъекта. Охват бурлящей реальности одной генеральной концепцией проблематичен. Многофакторность, подвижность, изменчивость среды затрудняет применение универсальных моделей, в том числе из-за проблем с опознанием объектов и расчетом траекторий в ускоряющемся калейдоскопе. Вместо единой картины множественными мазками прописывается импрессионистичный, дискретный пейзаж, в котором личная и социальная целостность (гештальт) размывается потоками протееобразного бытия.

На ум приходит спор многострадального Иова с Творцом о пределах человеческого разума, а заодно диспуты в Парижском университете (XIII в.), поставившие под сомнение и осудившие аристотелевский критерий истины – логическую непротиворечивость. Предложив взамен иной критерий: проверку истинности логичных утверждений (гипотез) «Книгой природы», сотворенной нечеловеческим разумом. Иначе говоря, постулировав основание новоевропейской науки: непредвзятость вердикта, свободного от игр людского разума: эксперимент.

История предъявила сегодня цивилизации два не вполне очевидных вызова: универсальное делегирование суверенитетов – иной порядок организации власти, и трансляцию гаджетам прав на решение – автономный искусственный интеллект. Для компенсации возникающих обременений и парадоксов используются мировые регулирующие органы, аутсорсинговые протезы и автономные ко-операторы. А на роль кризисного менеджера претендует искусственный интеллект (ИИ/AI) – сообщество программ, различающих неясные и многоликие паттерны, сводимые нейронными сетями в динамичный агрегатор с проблесками эвристики.

Новоявленный Голлем обладает своеобразным «дигитальным мышлением», которое коммуницирует с людьми, но руководствуется собственным языкознанием, – математикой, не относящейся к сфере естественных наук, будучи умозрительной дисциплиной. Тест Тьюринга на схожесть искусственного интеллекта с человеческим оказывается все менее актуален для востребованных временем функций. И сомнителен как всякое искусство лицедейства. ИИ по своей сущности – инопланетянин, абориген виртуальных миров. Это иной тип разума с недоступной человеческому сознанию широтой охвата данных и ускоряющимся быстродействием, однако лишенный органичных свойств людской натуры: эмоций, характера, нравственности. Иначе говоря, это ум иной природы, не застрахованный от грубых и губительных ошибок с точки зрения природы человека и его здравого смысла.

Действительно, в области решений даже, казалось бы, сугубо количественных задач, обнаруживаются разночтения. Хорошо иллюстрирует различие искусственного интеллекта и человеческого ума «проблема вагонетки». Суть ее вкратце такова: у вагонетки на крутом подъеме срываются тормоза. Скатываясь по рельсам, она может искалечить и погубить пятерых человек, но если переключить стрелку – погибнет один.  Трагический выбор ИИ и большинства людей в данной ситуации схож: он в пользу минимизации ущерба. Затем условия мысленного эксперимента меняются: теперь, чтобы спасти пятерых, нужно столкнуть человека под колеса вагонетки, затормозив ее движение.  И в данной ситуации выбор ИИ и людей расходится. Большинством голосов люди отказываются действовать подобным образом. Другими словами, разум человека оказывается более гибким и объемным, он учитывает не только конкретные обстоятельства события, но также его отдаленные следствия, проблематизируя природу человечности, нравственные аспекты, неочевидный ущерб и отдаленные следствия, актуализируя такие свойства натуры, как мораль, характер, «ошибки, которые больше, чем преступление».

Отчуждение и уплощение

Между тем мы сталкиваемся с еще одной проблемой – уплощением личности в индустриальной культуре. Экспансия массового сознания связана с умножением механистичных свойств разума, форсированием прикладных, функциональных качеств ума, оцифровкой бытия (коды, прописи, финансовые трансферы, пакетирование времени и информации), приводящих к отчуждению индивида от его внутренней природы, утраты комплексности мышления, атрофии человеческих качеств и глубинных свойств интеллекта.

В подобных обстоятельствах информационный аутсорсинг способен перерасти в делегирование прав на принятие решений – коррупцию личного суверенитета. Киборгизация возможна не только посредством технических протезов и химических манипуляций, она может совершаться и в конвенциональных формах: через личные информационные терминалы (интерактивные «дождевые облака») или эмоциональный трансфер (усложненная, антропомофная версия Siri) и т.п. Критериями грядущего разделения оказываются не столько «овеществленные» богатство и бедность – нынешняя платформа социальной схизмы, сколько наличие нематериальных неотчуждаемых активов, включая параметры личности, глубину мышления vs уплощенность сознания и функциональный статус персоны. Еще одна отдельная, но сопряженная тема – искусственные способности...

Техническая цивилизация обладает могучей мускулатурой, распорядиться которой можно по-разному. В человеческой вселенной присутствуют стратегии личного успеха («викария из Брея»), корпоративные («красной королевы»); социокультурные («полифонического резонанса»); ценностные («стратегия черепахи») и чаще всего – их изменчивые сочетания. Сообщества, обитающие на планете, реализуют различные эволюционные коды, вопрос в том, какой окажется доминирующим. Данный список не является, однако, исчерпывающим. Не исключен выбор той или иной версии, явной либо подспудной, «культуры смерти»: экстремальных практик деконструкции цивилизации, деструкции и самоуничтожения. «К чему этот мир, если в нем не будет меня?»

Пионеры времени

Будущее – коллективное предприятие с неравномерным распределением капитала, всерьез же за власть над эволюцией конкурируют цели и ценности. Вирулентный релятивизм свободно оперирует небоевыми средствами насилия как «подлинными орудиями политики» (Клаузевиц). Прививая исключительное к повседневному, он подрывает не только существующий властный консенсус, но и моральные императивы современности.

Военные – новаторы в теории и императоры в практике, они менее других подвержены иллюзиям из-за специфики деятельности: ее скорых и явных следствий. Терзания германских военных авторитетов о соотношении политики и войны обобщил в свое время Вадим Цымбурский: «Клаузевиц превозносит «грандиозную и мощную» политику, которая порождала бы такую же войну. Для Мольтке-старшего политика чаще всего связывает и стесняет стратегию. <... > И, наконец, как бы на противоположном от Клаузевица конце шкалы предстает Э. Людендорф с мнением о политике как о продолжении тотальной войны, ее инструменте».

Гротескная форма постулата Клаузевица сегодня могла бы звучать, наверное, так: «Политика – это война за будущее, но иными, многообразными средствами».

Евгений Месснер, размышляя о смешении военного и гражданского в новой практике, писал: «Война издревле удары оружием по телу врага подкрепляла ударами по его психике. <... > В прежних войнах важным почиталось завоевание территории. Впредь важнейшим будет почитаться завоевание душ во враждующем государстве». Кажется, призрак вялотекущей, перманентной неурядицы имеет шанс возобладать над мечтой Канта о «вечном мире» и благим апокалипсисом Исайи.

Управление телом художника с помощью мехатронной системы через компьютер. Марсель ли Антунес Рока. Эпизоотия. 1994. Фото из книги «Эволюция от кутюр: искусство и наука в эпоху постбиологии», Калининград, 2009

Сегодня полнота устремлений цивилизации разбивается на ряд конфликтующих интриг и трактовок безопасности, а ядерное оружие, став закрывающей войну технологией, натянуло тетиву невидимого миру лука, превратившись в зонтик иррегулярных инициатив, стимул для радикальных технологических инноваций и гибридной активности. Возникает новый поворот деструктивного сюжета – генезис летальных автономных робототехник (LARS – lethal autonomous robotics) как ожидаемая составная часть общего переворота. Проблема шире компетенции военных или политиков, инициирует поиск ответов на ряд философских вопросов.

LARS – своего рода кощеева игла технического прогресса, скрытая социокультурными оболочками. Подобно стрелке компаса, она указывает направление перемен. Промежуточная стадия – дистанционно управляемые беспилотные разведывательные и летальные аппараты: modus operandi, разделяющий и парадоксальным образом соединяющий поле боя с глубоким тылом, ритмами повседневности и «огнями большого города». Быстрое, многофакторное оружие соответствует природе сложных динамических систем, ведомых странными аттракторами (погода, мозг, вселенная). Проблема управления стаями, роями, композициями многочисленных и разнородных средств вне институциональных коридоров возвращает нас к теме искусственного интеллекта.

Дискуссии, которые ведутся – это споры по поводу летальности таких систем, но не автономной робототехники как таковой. Автономные разведывательные и прочие нелетальные функции реализуются в войсках и не вызывают протестов, в гражданской же сфере давно действуют информационные и финансовые боты, в определенных ситуациях также переходящие на автономный режим. Проходят испытания автопилотируемого транспорта, сеть заполняют интерактивные бот-сообщества etc.

В контексте нарастающей полисубъектности мира транзит гражданских АРС в летальные, в общем-то, предопределен. Так или иначе, легально или нелегально АРС обречены преображаться в летальные в силу роковых обстоятельств либо злой воли. Проблема новой ситуации – контроль и управление рисками, число которых неуклонно растет, а характер меняется.

Активная разведка будущего

Системы разной степени сложности подчиняются несовпадающим законам, политическая, экономическая, военная теория и практика индустриального толка в настоящее время активно корректируются. В черновиках повседневности прописываются строки, весьма отличные от классических прописей.

Война является искусством экспансии и защиты, экстремальными мерами по коррекции возникающих ситуаций. Нынешнее умножение возможностей порождает разнообразие деятельных траекторий, понуждая модифицировать пожелтевшие регламенты милитарных, иррегулярных и небоевых операций. Об усложнении композиций воинского искусства свидетельствует развитие профессионального языка. В военную теорию проникают такие понятия, как «проактивность», «неопределенность», «комплексность». Речь идет об активном представлении будущего и его деятельном освоении. Анализируются гипотетичные ситуации и обстоятельства, определяются средства и способы преадаптации – методы купирования кризисов, которые еще не произошли. Сценарная проработка конфликтов в стилистике многозначности сопровождается превентивными акциями по искоренению угроз на стадии зачатия. Еще одна возникшая категория – преэмптивность, корень слова – «пустота», то есть имеется в виду заполнение релевантных ниш, не опознанных соперниками.

Внимание уделяется и опережающим разработкам боевой техники, и адаптации технологий, перетекающих из гражданской практики, включая высокие гуманитарные технологии – high hume, преобразуя разнообразные знания в технические, организационные и методологические преимущества. К процессу привлекаются различного рода частные предприятия, интеллектуальные корпорации, венчурные организмы. Опознаются и апробируются средства господства, выходящие за рамки привычных боевых регламентов. Расширился диапазон пространств боестолкновений: к ареалам суши, моря, воздуха, космоса добавилось киберпространство, в процессе становления – социопсихологический домен. В числе направлений противоборства наряду с военным числятся дипломатическое, информационное, экономическое, технологическое (DIMET).

Технические средства решают задачи как цифрового обеспечения вооруженных сил (distributed common ground systems), так и универсального контроля над возникающими обстоятельствами и предполагаемыми ситуациями (open source indicators). Воплощается система распределенного множества цифровых крепостей: сообществ механизмов и технологий, формирующих перманентно обновляемые, обрабатываемые посредством нейросетей массивы данных, а также гибридных систем, объединяющих возможности машины и человека (дополненный интеллект). Горизонт процесса – универсальная транспарентность: глобальный физический мониторинг (planetary skin) вкупе с программированием взаимопроникающих виртуальных пространств (pervasive computing) – совокупность, лежащая в основе контроля над текущими событиями и активной разведкой будущего.

Работа интеллектуальных (активно-адаптивных) навигационных структур сопрягается с геопространственной разведкой, способной к широкому охвату целей и непрерывному их отслеживанию. Система включает совокупность информационных структур (global information grids), обеспечивающих комплексное наблюдение за почвой, атмосферой, промышленными выбросами, электропотреблением, геологическими и климатическими процессами, инженерными, технологическими, финансовыми, социальными, антропологическими ситуациями при помощи спутниковых и наземных систем наблюдения, включая данные радиочастотных идентификаторов и наноразмерных датчиков.

Антропологические аберрации

Еще один пункт актуальной повестки – экспансия трансграничного терроризма, использующего преимущества распределенной организации и сетевого «управления дикостью». Тут развиваются свои высокоадаптивные технологии, повышающие жизнеспособность, устойчивость феномена, его эволюционные возможности. Undernet использует и развивает не только новые технические возможности, но также выстраивает антропологические контактные цепочки и сети, напоминающие перемещение информации по типу сарафанного радио или движение денег в системе hawala.

Тему антропологического оружия вряд ли следует рассматривать лишь как исламистское явление, корни феномена глубже, а перспективы шире. Помимо полисубъектности и прокси-конструкций его ярких проявлений это может быть спонтанный гражданский атомизированный терроризм, принимающий широкие масштабы и не имеющий прямого отношения ни к одной из идеологических или конфессиональных доктрин. Либо поверхностно, искусственным образом с ними связанный, будучи симптомом универсальной актуализации культуры смерти.

Джихадизм наших дней, сливаясь с постсовременным акционизмом, вероятно, инициирует более токсичные формы агрессии по отношению к обществу и цивилизации, колонизируя земли, где конфессиональные либо социальные мотивы замещаются психологической доминантой, то есть субъективная мотивация оказывается важнее конфессиональной или политической.

Происходит деформация среды, уязвимой оказывается суверенность и концептуалистика современного общества, его архитектура, весь обширный инструментарий эпохи. Расширение проблематики предполагает изменение взгляда на практику как институционально дирижируемое действо, указывая на тесное взаимодействие маршрутов социализации и персонализации, жертвенности и ярости, насилия и усилия, воплощаемых действием, словом, мыслью.

Феноменология прямого действия преображается и переосмысляется. И дело не просто в распространении иррегулярного, дисперсного формата атакующих стратегий. Комплексный мир интегрирует то, что ранее было дисциплинарно рассечено: война, экономика, культура, индивидуальное развитие и групповое взаимодействие сливаются в единый трансинституциональный и наднациональный континуум. Гибридная война как универсальная борьба за будущее обретает более широкий, нежели милитарный, смысл, причем процесс можно толковать двояко: как силовую экспансию, то есть широкое использование гражданских практик в качестве оружия, или же как специфическую пасификацию, при которой военные действия, растворяясь в гражданских практиках, по-своему ослабляются, социализируются и гуманизируются.

Проблема скорее в основаниях замыслов и позиций, проецируемых в будущее. И в удержании либо утрате морального императива.