Возможен ли Рай в «электронном концлагере»

Всевидящее око «Большого Брата» сразу стало главной страшилкой о китайской версии государственного управления и развития на основе ИИ. Фото Reuters

2300 человек в огромном зале, украшенном красными драпировками и с вытканным золотом в центре серпом и молотом, три с половиной часа напряженно слушали доклад, в котором излагалась стратегия развития Китая на ближайшее десятилетие. Звучали непривычные своей новизной слова – искусственный интеллект (ИИ), big data, Интернет. Именно эти технологии, заявил делегатам XIX съезда Коммунистической партии Китая председатель КНР Си Цзиньпин, должны обеспечить новый грандиозный рывок страны в будущее и вывести ее экономику на качественно иные, недосягаемые для многих других государств, высоты.

Индустрия – мать ИИ

Что примечательно, глава страны и лидер китайских коммунистов говорил собравшимся о планах, под которыми уже был подведен серьезный индустриальный и научно-технологический базис. К 18 октября 2017 года, когда прозвучала эта речь, в Китае уже была разработана «Стратегия КНР по достижению лидерства в области искусственного интеллекта к 2030 году». Уже с полной отдачей и за высокие гонорары трудились многочисленные экспертные и научные группы, власти ряда провинций страны финансировали основанные на ИИ стартапы.

А главное – к этому времени сложились и активно работали индустриальные альянсы, стремительно нарабатывающие практический опыт внедрения новейших технологий в повседневную жизнь Китая. Компания Alibaba, которую многие считают не более чем гигантским интернет-магазином, уже вела разработку «Городского мозга» для новой специальной экономической зоны, строящейся в 100 км от Пекина. Ant Financial успешно внедряла коммерческую версию «социального кредита», правоохранительные базы данных сливались с банковскими и транспортными для обнаружения «семи категорий лиц, угрожающих стабильности и общественной безопасности».

Не говоря уже об уличных камерах, исправно кормящих поступающей на них информацией программы распознавания лиц, «вичатизация» – внедрение безналичных расчетов по телефону с помощью WeChat – всей страны и основанной на использовании дронов системы доставки посылок в отдаленные уголки Китая.

Повторюсь – за словами Си Цзиньпина, прозвучавшими на XIX съезде Компартии, стояли не просто планы и благие намерения, а сконцентрированные для прорыва в сфере ИИ финансовые, индустриальные и технологические возможности Китая, помноженные на опыт практической реализации отдельных элементов интеллектуальных систем. Именно поэтому объявленная им «Стратегия по достижению лидерства» в этой сфере была просто обречена на успех, обеспечив грандиозный прорыв КНР к государственному управлению версии 2.0 – новой реальности XXI века.

Любимый «Большой Брат»

В некотором смысле «план китайского правительства по ИИ был знаменитой речью президента Джона Ф. Кеннеди, призывающей Америку высадить человека на Луну», пишет китайский венчурный гуру Кай-Фу Ли в новой книге «Сверхдержавы ИИ». Но ведь почтенная публика прекрасно знает, что там, где коммунистическая идеология и авторитаризм, отсутствие многопартийности и преследование диссидентов, – там просто не может быть чего-то прогрессивного, не так ли?

А потому главной страшилкой о китайской версии государственного управления и развития на основе ИИ сразу стала версия о том, что всевидящее око «Большого Брата» становится повседневной реальностью. И образ будущего, предлагаемого Пекином остальному миру, – это электронный концлагерь, где каждый шаг отслеживается и регламентируется суперкомпьютером.

Страх и недоверие к такой версии госуправления 2.0 вполне понятен и объясним. 

В Китае сейчас происходит централизация всех этих разрозненных кусочков информации в «одном окне». И это не может не пугать своей новизной и масштабностью. А уж тем более когда на основе всей информации, оставляемой тобой в виртуальном пространстве, тебе еще и присваивают некий «рейтинг» – все начинает выглядеть еще более пугающим и таинственным.

Но есть ли в этом что-то новое? Любой банк может получить справку о том, надежный ли ты заемщик. Любое заштатное отделение полиции в кратчайший срок может получить исчерпывающую историю твоих взаимоотношений с Уголовным и прочими кодексами...

Хорошо это или плохо – откровенно отвечу, что не знаю. В Китае же отношение к этим морально-этическим терзаниям еще проще. Облегчает и серьезно упрощает жизнь, повышает безопасность в быту и помогает изобличать злоумышленников, мошенников – и замечательно, и пусть развивается. Тем более что контроль за процессом, последнее слово – все равно остается за представителями власти. Той самой, которой доверяют примерно 84% жителей страны. Именно это количество населения КНР, судя по всему, уже сделало свой выбор между гипотезой о возможной «цифровой диктатуре» и теми вполне реальными жизненными удобствами, которые предоставляет вводимая система и те самые пресловутые «социальные рейтинги».

Страдания по Zero Trust

И в этом смысле весьма показательна недавняя история с ИИ-системой, предназначенной для контроля за качеством работы и состоянием доходов китайских чиновников, получившей название «нулевое доверие», Zero Trust или, проще, ZT.

Созданная учеными Китайской Академии наук совместно со службой внутреннего контроля Компартии КНР, система предназначалась для контроля за деятельностью чиновников и имела доступ более чем к 150 защищенным персональным и иным базам данных на уровне местных и центральных властей. ZT составляла сложные, многоуровневые карты социальных отношений для анализа поведения государственных служащих. Что, в свою очередь, позволяло выявлять реальное состояние дел в сфере реализации ими своих должностных обязанностей. 

За семь лет своего функционирования в ряде городов и провинций Китая эта система «держала под колпаком» около 500 тыс. госслужащих, то есть примерно 1% от общего количества чиновников КНР. И за этот же период – уличила в злоупотреблении служебным положением, некомпетентности, коррупции 8721 из своих «поднадзорных». И вот накануне нынешнего китайского Нового года, который начинается 5 февраля, власти страны объявили о свертывании системы ZT.

Ряд наблюдателей тут же поспешили объявить, что причиной этого шага стало то, что ZT слишком уж хорошо отлавливала коррупционеров, и они сделали все возможное для того, чтобы это «всевидящее око» ослепить. Но реальность, как это зачастую и бывает, оказалась несколько иной.

Прежде всего слухи о сверхэффективности системы в борьбе с коррупцией оказались несколько преувеличенными. Если за период своего функционирования она выявила 1,74% муниципальных и провинциальных «оборотней в галстуках» от общего количества подконтрольного ей контингента, то по всему Китаю за этот же период старыми, нетехнологичными и «ручными» методами таковых обнаружили и привлекли к ответственности 2,9% от общего числа китайских чиновников.

Ну а главное, о чем говорят в неофициальных беседах работавшие с ZT специалисты, – система может быстро указать на коррумпированного чиновника, но не очень хорошо объясняет процесс тех заключений, на основании которых пришла к такому выводу. То есть в целом ряде случаев система не предоставляет тех фактов, которые будут достаточными для доказательства преступного умысла, судебного преследования и вынесения приговора. Косвенным подтверждением этого можно считать и то, что лишь около 5% госслужащих, признанных Zero Trust виновными в злоупотреблениях служебным положением и коррупции, преследовались затем в судебном порядке. Остальные же получили предупреждения и дисциплинарные взыскания.

«Хотя в большинстве случаев система правильно указывает на факт злоупотреблений, все равно необходимо участие человека для дополнительного сбора доказательств, определения наличия преступного умысла, степени вины чиновника и привлечения его к суду или же дисциплинарной ответственности, – признают китайские специалисты. – ZT нуждается в серьезной доработке».

Завтра будет лучше. Но это неточно

В истории с Zero Trust самым показательным является то, что никто не собирается ее свертывать. Речь идет о модернизации и устранении выявленных недостатков. Более того, основанные на алгоритмах этой системы программы сейчас активно внедряются все более широко, в полиции, судах, банковской сфере и страховых компаниях.

ИИ приходит и во внешнюю политику Китая. Схожая с ZT программа была внедрена в Министерстве иностранных дел КНР, где она достаточно успешно применяется для оценки рисков и принятия решений по крупным инвестиционным проектам Китая за рубежом.

То есть руководство КНР продолжит активное внедрение основанных на ИИ методов государственного управления 2.0. Причем будет делать это достаточно гибко, оперативно реагируя и устраняя выявляемые в ходе практического внедрения данных систем недостатков.

Обеспечив прорыв в сфере ИИ и убедившись в его эффективности для развития страны, Китай намерен теперь закрепить лидерство в этой сфере, выход на качественно иной уровень производства и социальных технологий. Масштабно – с максимальным привлечением к реализации своей государственной Стратегии частных компаний. В ноябре прошлого года Китай назвал Baidu, Alibaba, Tencent и iFlytek членами «национальной сборной в области ИИ», которые будут играть по вполне прозрачным правилам: работайте, инвестируйте, а руководство страны обеспечит вам безграничную поддержку в КНР и за рубежом. И одновременно с продумыванием каждой мелочи, вплоть до введения в общеобразовательных школах нового учебного курса – «Основы искусственного интеллекта». Учебники уже отпечатаны…

США быстро оценили те преимущества, которые получил и еще получит Китай от своих успехов. И бросились вдогонку. Дональд Трамп уже подписал распоряжение о начале собственной партии в сфере ИИ – «Основные направления американской инициативы в области искусственного интеллекта», подготовленные Управлением по политике в области науки и технологий. Однако китайской Стратегии этот документ пока явно проигрывает – слишком расплывчат, неконкретен, с неясным финансированием.

Но здесь важнее другое – новая гонка за лидерство в совершенно новой для человечества сфере уже началась. И именно в ее ходе определится, какая специфика государственного управления в XXI веке окажется более жизнеспособной. Пока впереди – китайская.