Menu

Chovej se slušně!

Čína testuje dystopický občanský ratingový systém, který může celou společnost posunout k technologické totalitě. Tamní debata kolem Sesame Credit a gamifikace občanské poslušnosti totiž pomíjí jeden důležitý bod: samotné občany. 

Do roku 2020 chce čínská vláda napojit všechny občany, podniky a úřady na nebývalý ratingový systém. Účast je povinná, odmítnutí na přísně kontrolovaném čínském internetu je prakticky nemyslitelné. Zároveň čínská vláda pracuje na nových právních předpisech, které mají úzce propojit veškerý on-line pohyb s identitou každého uživatele.

Státní poslušnost

Už několik let probíhají v desítkách měst a provincií první testy. Pobouření v Číně i mimo ni způsobilo především osm firemních experimentů - zejména u společnosti Zhima Credit (Sesame Credit), platební služby Alibaba Ant Financial (viz Chip 2/18). Testovalo se zde, jak může být státem vynucená poslušnost prosazována metodami analýzy velkých dat. Každý, kdo obchoduje nebo nakupuje na internetu, vyhledává životní partnery nebo půjčovnu jízdních kol, to dělá pod dohledem monitorovacích programů a jejich neprůhledného „black box“ vyhodnocování.

Tento takzvaný systém sociálních kreditů by však neměl odrážet jen ekonomickou bonitu. Spíše by měl posuzovat, podobně jako úvěrové společnosti, jak důvěryhodné a upřímné dané osoby či instituce jsou, a tyto znalosti prostřednictvím programových rozhraní zpřístupnit službám a státním orgánům.

Systém by měl působit vysloveně výchovně. S ním budou svázány důsledky skutků - dobrých a špatných, páchaných on-line i off-line. Například Zhima Credit sama nebo některé provincie používají herní, tj. manipulativní metody k tomu, aby přiměly občany ke společensky prospěšnému chování. Celý systém je pak možné označit jako tzv. gamifikaci poslušnosti.

Právě tento vzdělávací aspekt naráží u většiny kritiků: pouze ti, kteří čistí svůj okruh přátel od domnělých disidentů a vedou vzorový život, by měli získat přístup k vysokoškolskému vzdělání, vyšším profesním pozicím, a dokonce i k lásce partnerů. Po celý čas systém sociálních kreditů způsobuje roztržky. Tak děsivě jako v Číně nikde jinde k technologické dystopii nedochází.

Tato představa však spojuje obrovský státní koncept systému sociálních kreditů s velmi různorodými praktickými experimenty. A ponechává dva aspekty nezodpovězené: proč Čína vůbec takový systém rozvíjí a jakou roli přisoudí nám jako údajně nečinným pozorovatelům.

Budování instantní důvěry

Ve skutečnosti stojí Čína před složitým problémem. Její ekonomika vzkvétá a městská populace prochází obrovskou digitalizací. Současně však Čína stále zápasí s důsledky kulturní revoluce, jinými slovy se soudržností a modernizací společnosti a kontrolou překotně rostoucího hyperkapitalistického hospodářství. Ustavení harmonie a pořádku je proto jedním z velkých cílů čínské domácí politiky. Zdá se, že se od západních průmyslových zemí naučila, jak důležité jsou struktury důvěry a odpovědnosti - a jak je k tomu možné používat internet.

Namísto čekání na organický vznik takových struktur se Čínská lidová republika snaží o technokratickou regulaci: „Urychlené zavedení systému sociálních kreditů je důležitým základem pro plné prosazení vědeckých konceptů rozvoje a vytváření harmonické socialistické společnosti,“ uvádí se v úvodu popisu „Plánu pro zavedení systému sociálních kreditů“, který zveřejnila čínská vláda v červnu 2014. „Úkolem je zvýšit povědomí o integritě a důvěryhodnosti celé společnosti.“ Nepřipomíná vám tato rétorika něco, co jsme už zažili?

Poctivost, důvěra, kredibilita

Tento dokument je klíčem k pochopení gigantických plánů Číny. Jedná se o ekonomickou kontrolu bonity, stejně jako o sociální změny. Do systému sociálních kreditů by měla být zahrnuta prakticky každá oblast společnosti a stát se zdrojem dat pro „centralizovanou a jednotnou databázi bonitních informací“. To je prý „nesmírně důležité pro zlepšení celkové konkurenceschopnosti země a pro podporu společenského a civilizačního pokroku“.

Konečným cílem je vytvořit „poctivé, důvěryhodné a dobré kreditní prostředí“ pro všechny členy společnosti a tím zefektivnit hospodářství. Výsledky prvních praktických testů autory značně povzbudily: „Sociální poptávka po kreditních službách se zvyšuje a trh kreditních služeb neustále roste.“

Je potřeba vědět: Podle studie Světové banky nemělo v roce 2014 celých 12 procent všech Číňanů žádný bankovní účet. Bankovní úvěry byly poskytovány pouze velkým společnostem a bohatým lidem. Pokud jste si chtěli jako obyčejný občan koupit dům nebo auto, získali jste úvěr většinou pouze mimo oficiální bankovní okruh v soukromém sektoru nebo formou zajištění půjčky. Pouze zlomek čínských občanů má proto i dnes vůbec nějaké bonitní hodnocení - také proto, že přinejmenším do roku 2014 až na sociální kreditní systém neexistovalo žádné institucionální ohodnocování.
Na druhou stranu v posledních pěti letech doslova explodoval on-line trh a trh mobilních plateb. Mezi rokem 2012 a 2016 se podle jedné studie zvýšil objem prodeje mobilních telefonů 61krát. Dnes každý pátý Číňan používá digitální platební prostředky. Podle průzkumu trhu bude do roku 2020 jedna pětina všech nákupů v Číně uskutečněna prostřednictvím internetu. Současně tu existuje obrovská koncentrace poskytovatelů mobilních platebních řešení: Alipay (platební služba Alibaba Group) a WeChat Pay sdílejí více než 90 % objemu trhu. Obě společnosti provádějí experimenty se svými programy sociálních kreditů jménem Čínské lidové banky (Tencent Credit a Zhima Credit).

Dobrý občan, špatný občan

Není divu, že plán sociálního kreditního systému uvádí, že „rozpory mezi úrovní hospodářského a sociálního rozvoje“ jsou příliš velké. Proto musí nejen existovat hodnotící systém, ale ve společnosti musí být pro to vůbec vytvořeno povědomí. Na tomto místě začíná nejzajímavější část dokumentu -plán, jak lze změnit charakter celé společnosti.
Konvenční prostředky, dokonce ani „opakované zákazy“ by nebyly dostatečné pro řešení problémů společnosti a ekonomiky - „extrémně závažných“ bezpečnostních incidentů v průmyslu, v potravinářském a medicínském sektoru, podvodů, padělání, daňových úniků a „falešných hlášení a akademických selhání“. A to bude znamenat „ještě dlouhou cestu, než se integrita vládních záležitostí a důvěra v jurisdikci“ mezi veřejností dostatečně rozšíří. Neexistují žádné pobídky k dobrému chování a sociálně škodlivé chování je běžné.

Nicméně systém sociálního ratingu má také tyto důsledky: mohl by vytvořit kulturu důvěry, vytvořit motivy k dobrému chování a prosazovat „transparentní atmosféru cti a upřímnosti“. Například upřímní a důvěryhodní lidé by měli být dáváni za příklad a měli by dostat vedoucí role: za dobré občanské skóre se nabízí lepší vzdělání a kariérní příležitosti.
K testování tohoto systému pověřila vláda za pomoci Čínské lidové banky mnoho měst, provincií a také osm poskytovatelů internetových služeb, aby rozjeli pilotní projekty. Tyto praktické testy jsou nyní zdrojem hororových příběhů o „čínské datové chobotnici“, která zahrnuje všechny oblasti života. Pokud přejdete světelnou křižovatku na červenou, máte přátele s názory kritizujícími systém, jste příliš často nemocní - všechny takové údaje by se měly do vašeho občanského profilu dostat. Dokonce i Li Yingyun, šéf vývoje ve společnosti Zhima Credit z Ant Financial, jednou prohlásil, že charakterové rysy by mohly pocházet i z nákupního chování zákazníků Alipay. Ekonomickému časopisu Caixin řekl: „Každý, kdo hraje videohry deset hodin denně, je považován za líného člověka. Ten, kdo často kupuje plenky, bude pravděpodobně rodič, a tudíž nese určitou odpovědnost.“

Ale všechny tyto příběhy je třeba brát s rezervou: mísí se tu touha, strach a realita. To, co plánuje čínský stát a co se skutečně děje, bývá často velmi odlišné. Mohlo by za tím vězet také jednoduché PR: jsme větší, mocnější a informovanější než kdokoliv jiný.

Jen nedávno uvedl Hu Tao, generální ředitel společnosti Zhima, ve svém vyjádření pro Financial Times, že jeho společnost nesleduje obsah příspěvků sociálních médií svých uživatelů ani se nezaměřuje na jejich kvalitativní vlastnosti, jako je sestavování charakteru. „A bez souhlasu svých uživatelů by společnost žádné recenze třetím stranám ani vládě nepředávala.“

Zbytečný rozruch?

To zatím ani nebylo nutné. Výzkumný pracovník z univerzity Yale a expert na Čínu Jeremy Daum poukazuje na to, že ani Ali Financial (Zhima Credit), ani sedm dalších společností pověřených Čínskou lidovou bankou licenci na oficiální kreditní systém nedostaly. Čínské regulační orgány kritizovaly střet zájmů ve společnostech, které sbírají údaje o kreditech a současně nabízejí finanční služby. Kromě toho experimenty údajně neposkytly dobré ukazatele individuální důvěryhodnosti. S určitým odstupem připomíná diskuse o čínském občanském kreditním systému západní diskusi o sociální síle dat. Technologie stále častěji určuje, jak společnost funguje - všichni jsme pod neustálým tlakem ohledně hodnocení, vlastního monitorování a optimalizace.

Pokud jde o jednotlivce a stát, v Číně, v Evropě i kdekoliv jinde vzniká otázka, kolik rozhodovacích pravomocí bychom měli nechat algoritmům, je-li to vůbec možné, a jakou roli by přitom měly hrát internetové společnosti a jejich datové monopoly.

Touha po technologické kontrole společnosti se určitě neomezuje jen na Čínu. A možná právě v tom spočívá náš strach z čínského experimentu, věří Jeremy Daum: „Jde o dvě věci: O to, co se v Číně skutečně děje, a o to, co se bojíme, že se bude dít u nás.“

***

DŮVĚRA

„Permanentní kontrola“

Torsten Heinemann, profesor sociologie na univerzitě v Hamburku, o důvěře a kontrole

„Důvěra je založena na vzájemnosti. Tím, že důvěřuji, vytvářím podobný pocit i u druhé osoby - jedná se o vzájemnou důvěru. Rozhodující je ale to, že nemůžete mít stoprocentní jistotu. Důvěra vzniká tehdy, když přijímám tuto nejistotu a spoléhám na přesvědčivé předpoklady, že akce nebo výsledek, který chci, skutečně nastane. Kontrola je protějškem důvěry. Bez občasné kontroly by neexistovala žádná důvěra. Kontrola ale není trvale možná a nezbytná. Trvalou kontrolu nahrazuje důvěra. Při vysoké důvěře se vyžaduje jen malé množství kontroly. Zvýšená nedůvěra vede k větší kontrole. Čínský systém sociálních kreditů se nespoléhá na důvěru, ale na neustálou kontrolu. Zde je vykreslen obraz společnosti, ve které člověk nemůže věřit lidem, ale musí kontrolovat a hodnotit všechny akce a společenské interakce. Důvěra je efektivně vkládána do databáze a objektivizována. Už se nejedná o důvěru, že se někdo chová určitým způsobem, ale o pokus o kvantifikaci tohoto očekávání a snížení faktoru nejistoty jako ústředního momentu důvěry. Přestože systém sociálních kreditů nemusí nutně zvyšovat nedůvěru, důvěra je v každém případě narušena. Současně ale celý systém předpokládá důvěru - ve spravedlivost a přesnost samotného systému kreditů. Pouze v případě, že všichni účastníci věří, že tato forma oceňování je správná a přiměřená, bude mít systém dlouhodobý vliv.“

***

Nařízená důvěryhodnost

Čínské pobřežní město Rongcheng je nejúspěšnější testovací oblastí kreditního sociálního systému. V reportážích německých a anglických rozhlasových novinářů se dá vyslechnout, jak probíhá život s předepsanou důvěryhodností: „Celá atmosféra se zde zlepšila. Lidé jsou aktivnější a angažovaní, kvalita společného života šla nahoru,“ alespoň tak to tvrdí osoba odpovědná za terénní testy, Sui Yuxiang. V Rongchengu jsou všichni obyvatelé rozděleni do kategorií A, B, C a D podle jejich chování: „Ti, kteří mají hodnocení A, jsou na červeném seznamu, ostatní jsou na černém seznamu. Osobám z červeného seznamu je poskytováno preferenční zacházení, jako je dostupnost vzdělání, sociální dávky a pojištění. Skupina C se denně kontroluje. Dostává písemné informace o určitých omezeních. Může se jednat například o snížení sociální pomoci. Nejnižší stupeň je D. Tito lidé již nemají možnost obsadit vedoucí pozici, nemají žádné výhody a nemají žádnou kredibilitu,“ říká IT specialista Zhang Chengwei. Kdo dává na přechodu přednost chodcům, posouvá se v seznamu nahoru. Těm, kteří nesplácí půjčky, jsou naopak kredity ubírány.

Foto popis| Něco mezi PR a dystopií Zhima Credit je nejznámější čínský scoringový systém - ale spíše než jako věrnostní program působí jako sledovací noční můra.
Foto popis| Skóre Zhima zahrnuje: úplnou identitu, účty, platby kreditní kartou, společenskou angažovanost, nákupní chování.
Foto popis| Věc důvěry Kredibilita může dosahovat od 350 do 950 bodů. Kdo má hodně bodů, získává výhody.
Foto popis| Zatím není jasné, zda bude plán sociálního kreditního systému do roku 2020 implementován, změněn, rozšířen, nebo naopak omezen.

O autorovi| FELIX KNOKE, autor@chip.cz


Příbuzná témata: