Dystopický technooptimismus? O čínském sociálním kreditu


Systém sociálního kreditu (社会信用体系, shehui xinyong tixi), který postupně rozvíjí čínská státní správa, je často připodobňován k epizodě seriálu Black mirror nebo k Velkému Bratrovi. Tyto působivé obrazy sice mohou vzbudit silné emoce, ale pochopení současného vývoje spíše znesnadňují, protože místo důležitých otázek přinášejí laciné (ne)odpovědi. 

Představa hrozivého systému, který si vynutil dohled a moc nad svými členy, poskytnuje příležitost ke spravedlivému rozhořčení. Efektivně však zastiňuje skutečnost, že jakýkoliv systém může být společností přijat jen tehdy, pokud je alespoň do nějaké míry důvěryhodný a jeho hodnoty (žádoucí a nežádoucí jednání, prostředky k jeho měření a přiměřenost trestů a odměn) jsou v souladu se širší společenskou orientací.

Dystopické obrazy jsou paradoxně produktem technooptimismu, tak bezvýhradné důvěry v technologie, jejich všemocnost a efektivitu, že jejich původci a provozovatelé ustupují do pozadí. Mezera mezi záměrem a realizací jako by neexistovala, stejně jako komplexita, se kterou mají technologie zacházet. Dochází také k exotizaci Číny, kvůli čemuž dochází k upozadění celosvětových změn ve způsobech správy a sběru dat. 

Momentálně vedle sebe v Číně existuje hned několik systémů, které se ve zprávách o sociálním kreditu míchají dohromady. Pojďme si je nejprve představit. 

Čínský stát v roce 2014 vyhlásil strategii pro zavádění systému sociálního kreditu (anglický překlad je dostupný zde), který má pomocí regulací a benefitů řídit společnost – stát, soudnictví, firmy i občany. Jde o sadu opatření akumulujících a integrujících tradiční zdroje (státních, vzdělávacích, zdravotních záznamů) s novými typy dat, které je možné sbírat kvůli společenským změnám a rozvoji technologií. Některá se již zavádějí do praxe (například seznamy založené na soudním rozhodnutí již znemožňují přístup k některým službám jako například nákup letenky či jízdenky na vlakové spoje vyšší třídy), některá jsou velmi vágní. Jde spíše o strategickou konceptualizaci politiky, cílů a nástrojů pro dané období, než o nastolení jednolitého systému, na jehož konci by bylo každému přiděleno bodové skóre. 

Programové aktivity čínské vlády jsou často zaměňovány se soukromým systémem benefitů jménem Sezamový kredit, který provozuje koncern Alibaba ve své mobilní platební aplikaci Alipay. Volitelná aplikace na základě aktivity stanovuje individuální skóre, které může přinášet různá zvýhodnění. Bezhotovostní systém mobilních plateb pomocí QR kódů se v posledních letech v Číně rychle rozšiřuje při online nákupech i v kamenných obchodech, takže jde o rozsáhlý systém, který může v závislosti na způsobu používání obsáhnout téměř všechny oblasti života. 

Systémy jsou na sobě nezávislé a pracují na trochu odlišných principech. Kromě toho bují různé hybridy, některá města například rozvíjejí nezávislé systémy benefitů a omezení s různým rozsahem působnosti a (ne)dobrovolnosti, systémy důvěryhodnosti zavádějí i některé firmy nebo sousedství.

Čínský vývoj však není ojedinělý. V kapitalistických ekonomikách s delší tradicí je sociální kredit jako kvantifikace finančního rizika a důvěryhodnosti zájemců o půjčku považován za zcela běžnou věc. Existují také různé startupy (např. Trustingsocial, Traity), které se snaží navrhnout své vlastní systémy hodnocení. Podle reportáže Washington Post i Facebook začíná interně měřit důvěryhodnost svých uživatelů. Dohled a sběr dat se samozřejmě rozšiřuje i na Slovensku, například pojišťovna AXA ve své nedávné kampani slibuje slevy pojištění za zdravý životní styl. Je však otázkou, jaká data chce sbírat a jak budou dále využívána. 

I používané principy jsou v euroamerickém kontextu dávno přítomné – monitoring a reporting, sběr velkých dat, mechanismus cukru a biče, rozšiřování dohledu bez většího odporu obyvatel. Co je však bezprecedentní, je usilování o vytvoření integrovaného systému, ve kterém bude držet nitky ideálně jeden aktér – stát, či koncern pokrývající bezpeněžní finanční sféru. A zřejmě také rozsah implementace pokročilých technologií. 

Zavádění sociálního kreditu je hledáním cesty, jak spravovat rozsáhlé a přelidněné území v komplexitě sociální reality. Starší systémy (například osobní spisy nebo povolení k pobytu) s překotnou urbanizací a masovou migrací zastaraly a jejich neadekvátnost způsobuje problémy nejen pro stát, ale také pro obyvatele. S rozvojem tržní ekonomiky se navíc objevili noví hráči, které Čína doposud nedokázala efektivně regulovat. 

Významným argumentem pro zavádění systému je podpora důvěry na třech úrovních. Za prvé má jít o důvěru ve státní systém, který má být schopen pomocí právně podložených aktů a neosobních algoritmů spravedlivě regulovat, rozhodovat a přerozdělovat. Toto má být odpověď na rozsáhlou korupci a současnou nedůvěru veřejnosti ve státní struktury. 

Neméně důležitá je obchodní neboli konzumentská důvěra. Čína má často problém s kvalitou služeb a produktů, které jsou doprovázeny různými podvody. Sociální kreditmá být nástroj, který bude efektivně regulovat firmy na čínskémúzemí, čímž se podle odbornice na čínské právo Flory Sapio Čína blíží regulačnímu systému EU nebo USA. Tato tendence představuje jednu z cest, jak státům vrátit silnější pozici vůči nadnárodním aktérům. 

Nakonec mají opatření pěstovat důvěru mezilidskou, jejíž hluboké rozrušení sahá minimálně do kulturní revoluce, kdy bylo snadné bez jasného důvodu přijít o vše. Podpora vlastní společenské pozice zdánlivě objektivními mechanismy má také potenciál umenšit neoficiální přerozdělování a získávání služeb pomocí neformálních sociálních vazeb a vzájemných závazků (čínština má pro tyto sociální kontakty, které jsou zde pravděpodobně rozvinutější než u nás, výrazguanxi). 

Soukromé systémy, jako výše představený Sezamový kredit, přinášejí konzumentům přímočaré výhody. Používání mobilního platebního systému je pohodlné a umožňuje minimalizaci bankovní byrokracie. Nechat se zlákat k registraci do navazujícího hodnotícího systému není o moc větší krok, než kývnutí na zákaznickou kartičku v supermarketu – akorát, že toto je „kartička na všechno“. S rapidním ekonomickým růstem a rozvojem materialistické orientace v tvrdém a konkurenčním prostředí může takové skóre dodat tolik žádoucí příslib sociální mobility a pocit úspěchu. V kontextu pošramocené důvěry a nejistoty přináší další ujištění, že každý, kdo se snaží, bude po zásluze odměněn. V případě Sezamového kreditu například možností přednostního přijetí k lékaři, zvýhodněného zdravotního pojištění nebo přístup do VIP salónků na letištích.

Vidina bezpečí, odměn a výhod může být tak lákavá, že zastíní, že se za ně platí osobními daty. Nebráníme se rozšiřování kamerových systémů, neboť – pokud o nich vůbec přemýšlíme – vágně věříme v jejich ochrannou funkci. Navíc nás většinou nepenalizují. Obchodní řetězec výměnou za pár slev získá naši nákupní historii, ale sběr dat s naším (nereflektovaným) souhlasem postupně roste. Zde také poslouží jeden z dílčích čínských příkladů. Bezpečnostní rámy a kontroly zavazadel jsou již dlouho běžnou součástí čínského metra a vstupů na významná místa a často jde o otravnou proceduru. Nový systém zavedený na několika stanicích metra v Guangzhou, který v reportáži popsal South China Morning Post, poskytuje registrovaným cestujícím přístup k prioritním kanálům na základě rozpoznávání obličeje. Není divu, že v každodenním shonu je postoupení dalších osobních údajů často malou cenou za zrychlení procedury a zvýšení pohodlí.

Rozšiřování těchto režimů mění vládnutí v to, co Foucault a jeho následovníci pojmenovávají termínem governmentality. Místo zákonů a nařízení zavedených několika silnými aktéry (stát, církev) se do popředí dostávají dílčí strategie a taktiky, které cílí na zodpovědné jednotlivce a jejich schopnost reflexivně jednat. Žádoucí jednání není motivováno obavou z represí, ale spíše je produktivním nasměrováním energie. Reálné tresty se mají týkat pouze menšiny na okraji, která součinnost odmítá nebo jí není ve své situaci schopná dosáhnout.

Sen o transparentnosti a průhledné společnosti dobře organizované technologií není bezešvý ani přímočarý. Informace se nedají sbírat okamžitě, perfektně a masivně; jde o zdlouhavý proces zkoušení, jak spolehlivá data identifikovat, získat, dát jim kompatibilní a akumulovatelnou formu a přiřadit je jednotlivým subjektům. Systém je zároveň ve svém fungování často navenek nejasný. Skóre Sezamového kreditu se skládá z několika dimenzí, od sociálních kontaktů, konzumních zvyků až po osobní informace. To je však vcelku vágní informace. Konkrétní pravidla nejsou dostupná, mohou se proměňovat, a v případě přistoupení na „hru“ vzniká široký prostor pro dohady a snahy. Důraz na technologické aspekty pojímají sociální kredit jako odlidštěné, nezávisle fungující černé skříňky. Do pozadí se tak dostává, že jde o mechanismy založené na politických rozhodnutích o tom, co je žádoucí a nežádoucí jednání. 

Pak jsou zde důsledky nespolehlivé implementace. Zmíněné seznamy mají sice vycházet ze soudního systému, chybí však kvalitní kontrola práce soudců a správců těchto seznamů, což z nich dělá zranitelný a nespolehlivý nástroj. Není jasné, kolik takových seznamů je, jaké důsledky přinášejí a zda jsou všechny založené na neplnění soudního rozhodnutí. Lidé se o své situaci zpravidla dozví, až když něco nefunguje. Existují například reportáže o tom, že na seznam se dostali i lidé, kteří odešli z armády. 

Na jednu stranu se zdá, jako by šlo o technický problém: dobře nastavit systém v tom, jaké jednání jej zajímá a jak jej měří, odměňuje či trestá. Reportáž z Rongchengu, města s vlastním systémem bodování všech svých obyvatel, ukázala, že ačkoliv je systém v provozu již pět let, zřejmě do místního života příliš nezasahuje. Mnozí ani neví, že existuje – dokud si nechtějí koupit dům nebo se hlásit do státního úřadu. Systém penalizuje například konkrétní dopravní přestupky (třeba řízení v opilosti), avšak negativně se dotýká jen malé části populace. Ztráta bodů je v něm založená na oficiálně zaznamenaném porušení stávajících zákonů, zatímco zisk vychází z obecně ceněného jednání, například podpory rodiny v těžké situaci, přispívání na charitu, nebo projevů hrdinství. Benefitem může být půjčování kola bez zálohy, sleva na topení, nebo třeba zvýhodnění půjček. 

Rovnováha je však křehká. Je důležité sledovat, jak tyto systémy v praxi působí a zda neprohlubují již tak vyhrocené sociální nerovnosti. Propadne se člověk řídící opilý v Rongchengu společenskou hierarchií tak hluboko, že nemá šanci se z nepříjemné situace dostat, nebo naopak systém umožňuje odčinění prohřešku? Mohou vůbec chudí dosáhnout na nějaké benefity Sezamového kreditu? Další otevřenou otázkou zůstává, na koho opatření svým nastavením vlastně cílí. Současné režimy jako by se zaměřovaly na běžného obyvatele, mohou ale například zachytit organizovanou kriminalitu či korupci bílých límečků?

Zásadní však je, a to i v mezinárodním kontextu, že se zde dává do chodu rozsáhlý systém, který může relativně nepřímo pomocí metody cukru a biče proměňovat společnost. Takový systém bezprostředně negativně dopadne pouze na neviditelnou menšinu. Zároveň je však možné akumulovaná data a sociotechnické systémy na jejich získávání rychle a účinně aktivovat pro zcela jiné účely s dalekosáhlými následky, jako se nyní děje v Ujgursku. 

Morbidní fascinace orwellovskými připodobněními odvádí naši pozornost k vizuálně přitažlivé sci‐fi fikci. Zastiňuje každodenní ústupky ve prospěch pohodlí a nedostatek osobní kapacity zastavit se a řešit věci, které se nám nezdají. Zvykneme si na všechno, jen když je to v něčem snadné a výhodné… Pokud je zbavování se kulturních přirovnání při naší snaze pochopit tento fenomén příliš obtížné, pak bych si přála, abychom nahradili výše uvedené díla Čtyřmi knihami od Yana Lianke (česky Jen Lien‐kche). Kniha zasazená do období tzv. Velkého skoku, kdy došlo k seshora iniciované, rozsáhlé restrukturalizaci společnosti,  nám toho může o náchylnosti k zapojení do systému odměn a trestů a tiché součinnosti tolik říct. Jen nezapomínat, že ačkoliv se román odehrává v Číně, týká se to i nás. 

Fotografie: archív autorky a redakcie.