Цифровой тоталитаризм с человеческим лицом

На идентификацию гражданина Китая требуется не больше трех секунд. Фото Reuters

Через четыре дня исполнится ровно месяц с того момента, как в Китае вступила в полномасштабную эксплуатацию национальная так называемая система социального кредита (ССК). В стране принят первый в истории КНР Гражданский кодекс. Он узаконивает ССК. Подготовка к введению системы длилась довольно долго – с 2010 года. Что это такое – ССК, лучше всего пояснить на конкретном примере.

Не жизнь, а Жунчэнь

Всем жителям города Жунчэнь (на 2010 год население города – около 700 тыс. человек) в рамках ССК было выделено 1000 условных балов («карма»). Не убрал за своей собакой во дворе – система списывает баллы. Проехал на красный свет – минус баллы; бросил бумажку на пол в общественном месте – минус баллы; прошел по газону – минус баллы… В итоге тебе присваивается статус «Д»… Читаешь Карла Маркса – получи свои 5 баллов в ССК. Не изменяешь жене, не участвуешь в антиправительственных акциях – плюс по 5 баллов. Если рейтинг больше 1050 баллов, гражданину присваивается индекс «ААА». 1000 баллов тянет только на «А+», а 900 – на «B». Если рейтинг упал ниже 849, ты гражданин категории «C», который, например, может быть уволен с работы. 599 баллов и ниже – это группа «D»: не возьмут на работу даже таксистом, не дадут кредит, не продадут билеты на самолет и даже могут отказать в аренде велосипеда. Для сравнения: человеку с рейтингом «А+» велосипед в аренду дадут без депозита и включат полчаса бесплатной поездки. Отличникам – волонтерам, донорам и проч. – снижается плата за коммунальные услуги, предоставляется возможность пройти бесплатный медосмотр…

Вот такой он, образцовый китайский город Жунчэнь.

«Социальный рейтинг – это ваш рейтинг с точки зрения государства, насколько вы образцовый гражданин, – поясняет Артем Метелев, председатель совета Ассоциации волонтерских центров. – Он стимулирует граждан и компании быть добросовестными. За плохое поведение приготовлен «кнут», за хорошее – «пряник». К рейтингу привязывается ваш доступ к различным возможностям, либо для вас возникают ограничения.

Хорошее поведение поощряют – например, освобождают от необходимости вносить обязательный депозит при аренде госжилья либо приоритетно окажут медицинскую помощь. Понизят же рейтинг, если вы совершите поездку без билета, курите в запрещенных местах, не оплачиваете судебные штрафы, громко включаете музыку в поезде, слишком много играете в видеоигры или распространяете fakenews в соцсетях.

Людям с социальным рейтингом ниже определенного уровня могут запретить работать в госкомпаниях и крупных банках или просто их уволить, вам аннулируют билеты на самолет, ограничат доступ в интернет, откажут детям в поступлении в школу из-за антиобщественного поведения их родителей или даже конфискуют домашнее животное».

С 1 января 2021 года эта система из стадии эксперимента стала в Китае общенациональной. «В Китае начинается переход к коммунистическому обществу с национальной ханьской спецификой», – комментирует обозреватель Telegram-канала «Незыгарь».

«Человек либо послушен алгоритму, и тогда следует награда, либо он не исполняет судьбу, и тогда следует наказание, – пишет российский философ Федор Гиренок в своей книге «Свобода и судьба. Что мы поняли благодаря пандемии (2020)». – «Мое отношение к моей среде, – говорит Маркс, – и есть мое сознание». И Маркс был прав, заявляют авторы системы социального доверия (кредита) в Китае. Только наша среда, уточняют они, это не какая-то природа в обыденном смысле слова. Это набор алгоритмов. В 2014 году в Китае стали составлять этот набор. В 2020-м должна завершиться его реализация. И все в Китае почувствуют дыхание своей судьбы». Одним словом – карма.

Заметим попутно, что как раз в 2014 году председатель КНР Си Цзиньпин призвал страну к «революции роботов». И сегодня треть всех роботов в мире установлена в Китае.

Строительство ССК, как мы видим, действительно завершилось в 2020-м. Вернее, не строительство – ввод в полноценную эксплуатацию. Кстати, система социального кредита запретила китайцам на фоне пандемии коронавируса употреблять в пищу собак, кошек, летучих мышей и других животных, по преимуществу диких. Теперь, если китайца застукают за поглощением жаркого из панголина – пиши «минус». На каком основании? Федор Гиренок поясняет: «С чего началась пандемия? С того, что чиновники не позволили врачам назвать вещи своими именами: наличие в Ухане массового заражения коронавирусом. Чиновники оказались вне системы социального доверия. Значит, их нужно вернуть туда, где они должны быть».

Цель – построение к 2049 году, году столетия КНР, «общества Великого единения» – синоним коммунистического общества с китайской спецификой.

Люди в цифровом тумане

Если отвлечься от сугубой социологии, то возникает естественный вопрос: как технически и технологически можно реализовать такую систему социального кредита?

Прежде всего такую возможность обеспечило одно фундаментальное технологическое достижение. По подсчетам нобелевского лауреата по экономике Майкла Спенса, во второй половине XX века стоимость компьютерных вычислений упала примерно в 10 млрд раз! Важно уточнить некоторые технические детали ССК. Прежде всего федеральные власти Китая не присваивают баллы. Они, баллы, хранятся в центральной базе данных. Доступ к ней предоставляют городским властям, компаниям, банкам и общественности, чтобы они могли сделать выводы о человеке или компании самостоятельно.

«Правительство стимулирует создание всевозможных приложений, использующих данные, и от региона к региону правила варьируются, – поясняет Артем Метелев. – Например, мини-программа для WeChat в провинции Хубэй показывает людей в радиусе 500 м, которые находятся в финансовом черном списке. В другой провинции пошли еще дальше и добавили звуковое предупреждение, когда граждане звонят «паразиту»…

Набираете вы новому знакомому, а в телефоне слышите: «Здравствуйте, Народный суд округа Пуань напоминает вам, что человек, номер которого вы набрали, включен в список дискредитированных лиц, будьте осторожны, если вы общаетесь с ним». И делаете вывод.

На все это нужны адекватная цифровая инфраструктура и программное обеспечение. Прежде всего ПО для распознавания лиц (образов). С этим у китайцев, кажется, нет проблем. Уже сейчас более 600 млн видеокамер отслеживают социальное поведение граждан Поднебесной. (Для сравнения: в 2020 году в Москве функционировало около 200 тыс. камер системы распознавания лиц.) А в рамках национального плана создания новой инфраструктуры до 2025 года китайские интернет-корпорации готовят программы развития сетей 5G, дата-центров, технопарков, «умных» городов и даже целых промышленно-технологических «умных» кластеров.

Заведующий отделом науки и инноваций Института мировой экономики и международных отношений им. Е.М. Примакова РАН Иван Данилин приводит такие данные: «О масштабной программе развития программно-аппаратной базы и инфраструктуры облачных технологий заявила Alibaba (200 млрд юаней – около 28 млрд долл.). Tencent предполагает вложить 500 млрд юаней (около 70,1 млрд долл.) в последующие пять лет в разработку инновационно-технологической инфраструктуры в сфере облачных вычислений, искусственного интеллекта, квантовых вычислений… Tencent, Alibaba, Baidu, JD.com пообещали огромные инвестиции в пораженную пандемией провинцию Хубэй и иные регионы. Речь идет о проектах цифровизации госуправления и деятельности предприятий (включая промышленные киберфизические системы в идеологии Индустрии 4.0), поддержке исследовательских центров, технологических и промышленных парков, подготовке кадров в области искусственного интеллекта и иных перспективных технологий» («Вестник РАН», 2020, т. 90, № 12).

Уже сейчас более 600 млн видеокамер отслеживают социальное поведение граждан Поднебесной.  Фото Reuters

И это только начало. Та же торговая интернет-платформа Alibaba (занимает до половины всего китайского рынка облачных вычислений) разрабатывает технологию слежения за… свиньями и распознавания голоса для прослушивания визга поросят, придавленных матерями. Предполагается, что это снизит смертность поросят на 3% в год. И кстати, это не только китайский тренд. Крупнейшая американская сельскохозяйственная компания Cargill уже использует систему распознавания лиц для мониторинга поведения и состояния коров.

Можно сколько угодно спорить: это уже искусственный интеллект или еще просто суперкомпьютерная технология. Социально-экономическая реальность, данная нам в ощущениях (и в баллах социального рейтинга, то есть «карма»), от этого не зависит. А от чего она зависит?

Профессор Кембриджского университета, экономист и математик Дэниел Сасскинд в книге «Будущее без работы» (2020) приводит любопытные данные. Проект ImageNet ежегодно проводит конкурс, в котором ведущие ученые-компьютерщики представляют свои системы распознавания объектов. В 2010 году точность самой лучшей программы составляла около 70%. В 2015-м победившая в конкурсе система превзошла в точности распознавания человека, распознав 96% изображений (у человека – 95%). А в 2017 году победитель достиг точности 98%.

Китайской системе социального кредита достаточно трех секунд для распознавания образа. Наверное, скоро и этот показатель покажется доисторической цифровой технологией.

Характер страсти

В общем, как считает философ Федор Гиренок, «Китай возглавил мир, в основе которого лежат число и необходимость». Пандемия коронавируса оказалась катализатором этого процесса. Расходы пользователей в мобильных приложениях выросли с 85 млрд долл. в 2019 году до 111 млрд в 2020-м. Эксперты отмечают, что «большую часть расходов традиционно делают сторонники экосистемы Apple: «яблочники» потратили в 2020 году 72,3 млрд долл. (против 55,5 годом ранее: +30,3%). Бюджет NASA на 2020 год был 22,6 млрд долл.».

Социолог и футуролог Сергей Переслегин отмечает: «Люди оказались готовы совершенно спокойно отдать и демократические свободы, и конституционные нормы, и образ жизни и деятельности. Из высокосвязанного открытого общества мы превратились в общество закрытое, в общество, управляющееся семантически, в общество, которому можно показать большой палец под названием «коронавирус», как ребенку показывают буку, и он в ужасе кидается под диван и умоляет его спасти. То, что за один год мы потеряли достижения двух с лишним сотен лет демократической и свободной жизни, – это по-человечески трудно понять».

Но сами люди так не думают. Согласно недавнему опросу ФОМ, лишь небольшой сегмент российских граждан говорит об уменьшении своих прав и свобод (2%) на фоне пандемии. 50% россиян уверены, что 2021 год для них будет лучше, чем 2020-й. И это самый высокий показатель за последние 25 лет. И при этом, по данным того же ФОМ, при ответе на вопрос: «Как вы полагаете, демократия сейчас приносит нашей стране больше пользы или больше вреда? Или и пользу и вред в равной степени?» ответы распределились так: 23% затруднились ответить; 44% – и пользу и вред в равной степени; 11% – больше пользы и 21% – больше вреда (еженедельные всероссийские телефонные опросы 23–25 октября 2020 года. В каждом опросе по 1000 респондентов. Статистическая погрешность не превышает 3,8%).

Все случилось, как и предупреждал еще в 1962 году социолог Маршалл Маклюен: «В устной России отношение к технологии носит характер страсти, что также может помешать им воспользоваться плодами распространения письменной грамотности». И все-таки «поляризованное» мышление – это, возможно, оборотная сторона общества, истосковавшегося по высоким технологиям, а не по высоким словам (о «научно-технологическом прорыве», например).

В этом смысле характерно, что 40,1% общего объема валовых внутренних затрат на развитие цифровой экономики в России приходится на расходы населения (данные Института статистических исследований и экономики знаний (ИСИЭЗ) НИУ ВШЭ, 18.11. 20). «На этом фоне объем затрат на цифровую трансформацию промышленности (примерно 6% общего объема внутренних затрат организаций на создание, распространение и использование цифровых технологий и связанных с ними продуктов и услуг) выглядит достаточно скромным. Важную роль в развитии цифровой экономики играет население – оно является крупнейшим потребителем цифрового контента и цифровых услуг», – подчеркивает Антон Суслов, заместитель директора Центра статистики и мониторинга информационного общества и цифровой экономики ИСИЭЗ НИУ ВШЭ.

Что нас ждет в дальнейшем? Здесь мы вступаем на зыбкую почву квазинаучных прогнозов. Увереннее всего в этой ситуации себя чувствуют фантасты и футурологи. Их взаимодиффузия сегодня такова, что сепарировать одних от других зачастую невозможно. Но их риторика – это самый востребованный продукт в современном обществе. В обществе, которое управляется семантически.

«Наши прадедушки могли спрогнозировать мир будущего, исходя из того, как выглядело их настоящее, – говорит герой романа отца литературного кибер-панка Уильяма Гибсона «Распознавание образов» (2003). – Но сейчас все изменилось. Развернутые социальные прогнозы – это для нас недоступная роскошь; наше настоящее стало слишком кратким, слишком подвижным, и прогнозы на нем не могут устоять. Мы не ведаем будущего, мы только оцениваем риск. Прокручиваем различные сценарии. Занимаемся распознаванием образов».

Если смотреть в пределе, то еще парочка таких пандемий, как COVID-19, – и вполне может быть сформирован социум, который американский социальный философ и культуролог Михаил Эпштейн называет «церебрально открытым обществом», нейросоциумом («Проективный философский словарь», 2003). Сценарий Эпштейна таков: «По логике антиутопии можно представить, что гражданину нейросоциума будет позволено лишь иногда отключать свой высокоразвитый мозг от сигнальной панели, которая станет передавать малейшие возбуждения его нейронов в центральную диспетчерскую, планетарный или космический «нус».

Самое интересное, такая «оценка рисков» уже не выглядит антиутопией. Китайская реальность системы социального кредита – фактически движение в этом направлении. «Китайцы обожают цифровую реальность, даже тоталитарную. Главным образом систему контроля приветствуют за то, что наконец появилась возможность поощрений для тех, кто живет правильно, – подчеркивает Алексей Маслов, и.о. директора Института Дальнего Востока РАН. – Многие не раз обращали внимание на то, как развязно и крайне шумно ведут себя китайские туристы в России, – это связано с тем, что с них спадает система контроля, никто не наблюдает за их поведением, оголтелый шопинг и ругательства никак не повлияют на их социальный статус на родине. Дома они просто знают, что живут под «неусыпным оком».

И это как раз та опция – временное отключение от «сигнальной панели» нейросоциума, – которая воспринимается как поощрение. Кстати, вполне возможно, что и обожание китайцами цифровой тоталитарной реальности, о котором пишет Алексей Маслов, – это тоже всего лишь попытка заработать нелишние баллы для своей «кармы». Антиутопии сбываются.