Китайский социальный рейтинг: технология доверия для нового общества модерна: Социодиггер

В Китайской народной республике (КНР) с 2014 года постепенно внедряется система социального рейтинга (社會信用體系, шэсюй синьюн тиси), позволяющая оценивать индивидов и организации по различным параметрам, на основе сбора и анализа больших данных. В мире эта система вызывает большой интерес и резонанс, и резонно рассматривается как одна из самых перспективных социальных технологий будущего — не только китайского. В этой статье я попытаюсь отойти от антиутопических и алармистских упрощений в трактовке системы социального рейтинга (ССР) и постараюсь описать его сложность, некоторые принципы работы, проблемы и, главное, поместить в контекст макроистории модерна.

Важно подчеркнуть, что китайский социальный рейтинг воспринимается за пределами страны как нечто тотальное, даже тоталитарное — как монолитная система государственного надзора и контроля. Подобного рода образы доминируют не только в фильмах, музыкальных клипах (например, клип Red River группы SALEM) или популярных СМИ (отсылки к «Большому брату» и «Черному зеркалу» — обычное дело), но и в выступлениях высокопоставленных государственных деятелей. Так, в 2018 году вице-президент США Майк Пенс прямо назвал ССР «оруэлловской системой, предполагающей контроль буквально всех сфер жизни человека» [1]. Однако скорее здесь мы имеем дело не с пониманием новой реальности, а с ориенталистским фантазмом, то есть проекцией Западом на (опасного) Другого собственных страхов. Множество научных исследований аккуратно разоблачают мифы об ССР, особенно о его тотальном характере [2].

Китайский социальный рейтинг — это прежде всего незавершенный проект, множество разнообразных программ, действующих в разном темпе в разных городах и провинциях, в разных сферах экономики, общества и права. По факту реализация ССР все еще гораздо более фрагментарна и мягка, чем ее замысел. Более того, сами власти приняли точку зрения наблюдателей за экспериментами — посмотрим, что из этого получится, какая модель окажется удачнее [3].

Однако финальная цель всего проекта была прописана вполне однозначно — создание общества доверия. По словам одного исследователя, «проект ССР лучше всего обозначить как ассамбляж — ансамбль дискурсов, регуляторных норм, стратегий развития, действующих на национальном и локальном уровне программ, целью которых является управление социальной и экономической жизнью через проблематизацию, оценку и использование добросовестности (trustworthiness, синьюн) граждан, фирм и государственных организаций. Конечная цель этого проекта — решение постоянно растущего списка актуальных для государства проблем, таких как мошенничество со стороны бизнесменов, коррупция, выполнение корпорациями законодательных требований (комплаенса), безопасность пищевых продуктов, соблюдение норм профессиональной этики и в целом то, что считается „цивилизованным поведением“» [4].

И в этом множестве проектов столь пугающие наблюдателей с Запада системы рейтингования индивидов (физических лиц) редки, экспериментальны и, главное, добровольны. Кроме того, в них чаще используются поощрения, чем штрафы. В 2019 году Государственный комитет по делам развития и реформ КНР (китайский Госплан) специально обозначил, что личный социальный рейтинг должен быть основой только бонусов, а не наказаний, и его индикаторы не должны ограничивать права граждан и их возможности пользоваться государственными услугами [5]. Адекватнее всего личные рейтинги можно сравнить с программами лояльности, только реализуемыми не частными фирмами, а государственными и муниципальными структурами (и доступ к ним можно получить, скачав соответствующее приложение). В городе Сямынь (Амой) рейтингуется около 5 % населения города, в Вэйхае — всего несколько тысяч человек [6].

Напротив, самый разработанный и широко применяющийся механизм ССР — черные и красные списки компаний (насколько они соблюдают налоговое, трудовое и другие законодательства). За попадание в черный список следуют санкции: ограничения на получение лицензий и разрешений, доступа к государственным закупкам, к инфраструктурным проектам государства, к выходу на IPO/ICO. Кроме того, немаловажный компонент рейтинга государственных и частных организаций — активное применение независимого (со стороны третьих лиц) аудита качества их работы. Вот характерный пример [7]: в крупных городах уровень загрязнения окружающей среды очень высокий, управу на частные заводы и фабрики найти сложно, и тогда на помощь приходят независимые датчики выбросов и мониторинг состояния среды в реальном времени. Информация с датчиков собирается, после чего автоматически снижается социальный рейтинг виновных предприятий.

Исторически проект ССР родился именно в связи с развитием рыночных реформ в Китае, с отходом от плановой экономики ХХ века. Возникла необходимость снижать риски, повышать уровень доверия, обеспечивать соблюдение регуляторных норм множеством независимых организаций. Рыночная экономика, полагают китайцы, — это экономика, основанная на доверии/репутации. Особенно важным стимулом для внедрения ССР стали массовое производство контрафактных товаров, коммерческие махинации, некачественные продукты. Как пишет Чжай Сюэвэй, если традиционное общество опиралось на локальные связи и сети репутации, маоистская плановая экономика — на учет и контроль в трудовых коллективах, то современная рыночная экономика — на личный интерес индивидов [8]. Именно поэтому назрела необходимость в объективной системе репутации (на основе IT), чтобы все понимали, кто их контрагент, будь это учреждение или физическое лицо.

Второй важный драйвер ССР — повышение эффективности государственного управления. И применение рейтингов в этом ключе завязано на так называемую идеологию датаизма [9]: чем больше цифр, чем больше накопленных данных, тем проще будет принимать более правильные решения. Цитаты из интервью исследователя Чэньчэнь Чжан подтверждают святую веру чиновников в объективность цифры [10]. Фактически речь идет о множестве процедур трансляции (в терминах Б. Латура и М. Каллона [11]) и квантификации, когда разрозненные данные о сдаче крови, экзаменов, нарушений ПДД, волонтерства собираются в единый рейтинг, который потом транслируется на уровень страны. Единицами управления становятся юниты данных, отделенные от сложной сети социальных связей и локальных отношений власти. И здесь, парадоксально, ССР оказывается не технологией XXI века, а реинкарнацией советского идеализма Госплана 1960-х годов, эры первых ЭВМ: как пишет исследователь из Китая, количественные данные отражают истинное положение дел в обществе, и научная их обработка и использование не просто оптимизируют управление обществом и экономикой, но и позволят решить социальные проблемы технологическими инструментами [12].

Иными словами, в ССР соединяется несколько больших «потоков» исходно западного проекта модерна — процесса цивилизации [13], «правильного» гражданства, соблюдения контрактных обязательств, прозрачности и цифровых данных как ключа к улучшению общества [14]. Конечно, эта многослойность и разнообразие проектов «внутри» системы социального рейтинга не могут не приводить к противоречивости: если говорить в терминах Мишеля Фуко, в ССР сочетаются правительность/биовласть (прозрачность, квантификация, снижение издержек, повышение комплаенса) и дисциплинарно-пасторальная власть (изменение поведения индивидов к лучшему, моральное благосостояние региона и города — последнее было характерно и для античной Европы, и для дореволюционного Китая). В социальном рейтинге «прорастают» и традиционные китайские ценности: так, в 2016 году власти Шанхая предложили внести в список индикаторов социального рейтинга сыновнюю почтительность (сяо, одно из ключевых понятий конфуцианской этики) — измерять сяо предполагалось, например, по тому, как часто индивид навещает родителей и насколько хорошо те питаются [15].

Конечно, у китайской системы социального рейтинга есть свои — традиционные, национальные — корни. Но не в меньшей, а то и в большей степени она представляет собой одно из проявлений глобального перехода от экспертных, моноцентричных, персоналистских моделей управления [16] к алгоритмическому, или информационному управлению, где большие данные и алгоритмы определяют и классификацию субъектов общественной жизни [17].

Также нельзя не заметить структурного сходства и даже общих истоков — у китайской ССР, с одной стороны, и систем кредитного скоринга, возникших в США в XIX—XX веках, а также многочисленных потребительских рейтингов в платформенных приложениях по типу Airbnb и Яндекс.Такси — с другой [18]. Более того, некоторые исследователи утверждают [19], что китайская система, с ее государственным контролем лучше, так как избавлена от недостатков «субъективных» рейтингов, где капризные, разгневанные или даже фейковые пользователи способны уничтожить репутацию фирмы.

Однако все вышесказанное не означает, что китайский социальный рейтинг — идеальная система, лишенная проблем и на ура принимающаяся населением. Многие черты его концепции и реализации вызывают у людей страх и критику. Прежде всего, опасения порождает желание государства в будущем выстроить кросс-платформенное и межинституциональное взаимодействие и установить единую систему рейтингования и обмена данными — вместо нынешних многочисленных экспериментальных проектов [20]. Уже работающий в этом направлении кейс — сотрудничество кредитного скоринга (Sesame Credit, разработанного Ant Group) и судебной системы Китая. Причина — низкая эффективность судебных решений (выполняются только 20 % постановлений о штрафах). Sesame Credit снижает кредитный рейтинг тех, кто не платит штрафы; а уже в рамках социального рейтинга «уклонистам» не дают покупать дорогие билеты, а их детям — учиться в частных школах [21]. Платежная система Alipay (часть экосистемы Alibaba) взяла на себя ту же задачу интегрировать данные кредитного рейтинга с информацией из МВД, налоговой службы и службы судебных приставов — единый рейтинг не только влияет на количество скидок и выгодных предложений, но и транслируется на другие платформы (по покупке билетов, съему квартир и отелей). Таким образом, частные, но практически монопольные цифровые системы в Китае также действуют в логике единого социального рейтинга [22]. Важно, что подобная кросс-платформенность рейтинга рискует нарушать юридически важный принцип соразмерности проступка и наказания: например, человек не заплатил алименты — а его лишают права снимать жилье, или не заплатил штраф за превышение скорости — ГАИ отказывает в проведении техосмотра [23].

Помимо такой унификации, немало опасений вызывает именно публичный шейминг: имена, фотографии, личные данные, сумма долга должников в провинции Анхой, например, публиковались на гостелевидении и билбордах [24] — структурно это напоминает российские списки должников за коммуналку, которые вывешивают у подъездов. Какие проблемы здесь возникают? Прежде всего, не достигается конечная цель — перевоспитание и исправление должника. Начинает действовать хорошо известный в социологии закон Матфея: чем больше шеймят и придают огласке данные должника, тем больше на него ложится стигма, тем меньше шансов, что он найдет новую работу или иные ресурсы и сможет выплатить долг. Начинает действовать социальная сегрегация. Ограничения на поездки, аренда жилья, устройство детей в школы отрубают социальные связи должника — его друзья, знакомые, коллеги начинают опасаться общаться с ним, и в итоге «плохие» не перевоспитываются, а просто отделяются от «хороших» в гетто.

И последнее: опасения вызывает возможная связь новых цифровых рейтингов со старой, еще времен Мао Цзэдуна, системой даньгань — закрытого досье на каждого китайского горожанина, которое заводится после окончания школы, куда включены не только стандартные биографические данные (рост, вес, фотография, список работ ), но и отзывы начальства и учителей, а также информация о судимости и административных правонарушениях. (Доступ к досье по умолчанию имеют работодатели и сотрудники спецслужб, а сами граждане — только по особому их запросу.)

Конечно, проблемы китайского социального рейтинга представляют для России не только абстрактный теоретический интерес. В рамках этого текста я попытался показать, что ССР — не экзотическое явление чужого для нас общества, а вполне закономерное развитие общества модерна, информатизации, биовласти и подобных больших процессов. И даже больше: среди очевидных аналогов механизмов ССР в России — такие разнородные, но уже вполне укоренившиеся в отечественном ландшафте вещи, как списки неплательщиков коммуналки в подъездах, реестр недобросовестных поставщиков в ЕИС «Госзакупки» и «Диссернет» (да, несмотря на свою политизированность, «Диссернет» отвечает двум задачам ССР — независимому аудиту и борьбе с нарушениями академической этики). Система социального рейтинга — это ведь история не про тотальный цифровой надзор государства над гражданами, а про общество доверия и прозрачности, где государство лишь дирижирует многочисленными инструментами открытости граждан и организаций друг перед другом. Готово ли к этому российское государство — это вопрос, но в нем есть как минимум несколько сил, заинтересованных в таком развитии. Готовы ли к этому жители страны — вопрос еще более острый, и ответ у меня пока скорее «нет» — принимая во внимание «культуру потаенности», кардинального различия между «в реальности» и «на самом деле», в котором мы живем.

Читать статью в PDF

[1] Wen W. (2019) China’s “Social Credit” System: An Orwellian Society in The Future? URL: https://theowp.org/chinas-social-credit-system-an-orwellian-society-in-the-future/.

[2] См., например: Daum J. (2017) China Through a Glass, Darkly: What Foreign Media Misses in China’s Social Credit. China Law Translate. December 24. URL: https://www.chinalawtranslate.com/en/china-social-credit-score/.

[3] Xiaodong D., Dale Yu. Zh. (2020) Rethinking China’s Social Credit System: A Long Road to Establishing Trust in Chinese Society. Journal of Contemporary China. P. 14. https://www.doi.org/10.1080/10670564.2020.1852738.

[4] Chenchen Zh. (2020) Governing (Through) Trustworthiness: Technologies of Power and Subjectification in China’s Social Credit System. Critical Asian Studies. P. 3. https://www.doi.org/10.1080/14672715.2020.1822194.

[5] Beijing News (2019) “发改委：个人信用分禁用于惩戒不得限制低分者法定权利” [NDRC: Personal Credit Scores Cannot be Used for Sanctions or Limiting Statutory Rights of Individuals]. July 18. URL: http://www.bjnews.com.cn/news/2019/07/18/605095.html.

[6] Lewis D. (2019) All Carrots and No Sticks: A Case Study on Social Credit Scores in Xiamen and Fuzhou. Digital Asia Hub. October 11. URL: https://www.digitalasiahub.org/2019/10/11/all-carrots-and-no-sticks-a-case-study-on-social-credit-scores-in-xiamen-andfuzhou/; Chenchen Zh. (2020) Governing (Through) Trustworthiness: Technologies of Power and Subjectification in China’s Social Credit System. Critical Asian Studies. P. 16. https://www.doi.org/
10.1080/14672715.2020.1822194.

[7] Aho B., Duffield R. (2020) Beyond Surveillance Capitalism: Privacy, Regulation and Big Data in Europe and China. Economy and Society. Vol. 49. No. 2. P. 11. https://www.doi.org/10.1080/03085147.2019.1690275.

[8] Zhai Xu. (2019) 从社会流动看中国信任结构的变迁 [Эволюция структур доверия в Китае в перспективе социальной мобильности]. Exploration and Free Views. No. 6. P. 20—23.

[9] Van Dijck J. (2014) Datafication, Dataism, and Dataveillance: Big Data Between Scientific. Paradigm and Ideology. Surveillance & Society. Vol. 12. No. 2. P. 197—208; Lohr S. (2015) Data-ism: The Revolution Transforming Decision Making, Consumer Behavior, and Almost Everything Else. New York, NY: Harper Business.

[10] Chenchen Zh. (2020) Governing (Through) Trustworthiness: Technologies of Power and Subjectification in China’s Social Credit System. Critical Asian Studies. https://www.doi.org/10.1080/14672715.2020.1822194.

[11] Callon M., Latour B. (1981) Unscrewing the Big Leviathan: How Actors Macro-structure Reality and How Sociologists Help Them To Do So. In: Knorr-Cetina K., Cicourel A. V. (eds.) Advances in Social Theory and Methodology: Towards an Integration of Micro- and Macro-Sociologies. Boston: Routledge & Kegan Paul. P. 277—303.

[12] Chenchen Zh. (2020) Governing (Through) Trustworthiness: Technologies of Power and Subjectification in China’s Social Credit System. Critical Asian Studies. P. 13. https://www.doi.org/10.1080/14672715.2020.1822194.

[13] Элиас Н. О процессе цивилизации: Социогенетические и психогенетические исследования. М. ; СПб., 2001.

[14] Скотт Дж. Благими намерениями государства. Почему и как проваливались проекты улучшения условий человеческой жизни. М. : Университетская книга, 2005.

[15] Chen Y., Cheung, A. (2017) The Transparent Self Under Big Data Profiling: Privacy and Chinese Legislation on the Social Credit System. The Journal of Comparative Law. Vol. 12. No. 2. P. 356—378.

[16] Mitchell T. (2002) Rule of Experts. Egypt, Techno-Politics, Modernity. University of California Press.

[17] Cheney-Lippold J. (2017) We Are Data: Algorithms and the Making of Our Digital Selves. New York, NY: NYU Press.

[18] Citron D., Pasquale F. (2014) The Scored Society: Due Process for Automated Predictions. Washington Law Review. Vol. 89. No. 1. P. 1—33; Срничек Н. Капитализм платформ (2019). М. : Издательский дом Высшей школы экономики.

[19] Mac Síthigh D., Siems M. (2019) The Chinese Social Credit System: A Model for Other Countries? EUI Department of Law Research Paper 2019/01. URL: https://cadmus.eui.eu/bitstream/handle/1814/60424/LAW_2019_01.pdf?sequence=1&isAllowed=y.

[20] Xiaodong D., Dale Yu. Zh. (2020) Rethinking China’s Social Credit System: A Long Road to Establishing Trust in Chinese Society. Journal of Contemporary China. P. 3. https://www.doi.org/10.1080/10670564.2020.1852738.

[21] Yang Yi (2019) China Focus: Chinese Courts Use Technology to Tighten Noose on Debt Defaulters. Xinhuanet, http://www.xinhuanet.com/english/2017-10/03/c_136657135.htm.

[22] Gladys Pak Lei Chong (2019) Cashless China: Securitization of Everyday Life Through Alipay’s Social Credit System — Sesame Credit. Chinese Journal of Communication. Vol. 12. No. 3. P. 290—307. https://www.doi.org/10.1080/17544750.2019.1583261.

[23] Xiaodong D., Dale Yu. Zh. (2020) Rethinking China’s Social Credit System: A Long Road to Establishing Trust in Chinese Society. Journal of Contemporary China. P. 10. https://www.doi.org/10.1080/10670564.2020.1852738

[24] Keegan E. (2018) Chinese Debtors Shamed with Broadcast of Names and Faces on Giant Screens on May 1 Holiday. South China Morning Post. URL: https://www.scmp.com/news/china/society/article/2144690/chinese-debtors-shamed-broadcast-names-and-faces-giant-screens.