Čínský systém „sociálního kreditu“: Dystopie nebo úspěšné sociální inženýrství?

Městské zastupitelstvo Pekingu nedávno představilo plán kontroverzního systému „sociálního kreditu“, který má být zaveden v Číně v roce 2020.

Agentura Reuters citovala zprávu čínské agentury Sin-chua, v níž se uvádí, že hlavní město bude průkopníkem tohoto programu, který propojuje sociální inženýrství a prosazování zákona. Pro ty, kdo o tom nic neví - Čína chce zavést celonárodní kamerový systém dohledu, který bude propojen s již aktivním digitálním systémem, na jehož základě se budou všem občanům a firmám přidělovat takzvané „body osobní důvěryhodnosti“, jež mají být kvůli získaným výhodám za řádné chování motivací, přičemž za porušení sociálně-právních norem bude následovat trest. Systém „sociálního kreditu“ byl údajně testován v Sin-ťiangu (tj. ujgurská autonomní oblast, obývaná muslimskými menšinami, převážně Ujgury, pozn. překl.) jako součást protiteroristické strategie centrální vlády. Prvky tohoto systému si údajně přebírá Venezuela, jak uvedla agentura Reuters v dalším článku, zveřejněném o víkendu.

Hlasy Západu kritizují tento program za to, že přivádí k životu dystopický román 1984 od George Orwella, a varují před tím, že bude ohrožena osobní svoboda Číňanů, stejně jako občanů jakékoli jiné země, do které bude Peking exportovat tuto technologii. To však ignoruje skutečnost, že na světě existuje mnoho různých společenských modelů, které nejsou uspořádané podle západního modelu, příkladem je právě Čína. Jako nesporně zjednodušující kontrast uveďme, že Čína staví stát nad občana, a kolektivní nad individuální, zatímco Západ (ať už upřímně či nikoli) prohlašuje, že praktikuje opačný model, neboť staví občany nad stát, a individuální nad kolektivní.

Změnou hry je však to, že čínský systém „sociálního kreditu“ zavede takzvané „algoritmické řízení“, kdy složité programy umělé inteligence nahradí lidské rozhodování, pokud jde o prosazování sociálně-právních standardů země. To vyžaduje, aby vláda nakonec získala úplnou kamerovou a digitální kontrolu nad každým aspektem země, a integrovala tyto dva systémy do holistického systému, který také rozděluje výsady a tresty, spojené s chováním občanů a firem v reálném čase. Tento masový dohled tudíž vyžaduje obrovské množství elektřiny, která bude napájet počítačové procesory, odpovědné za provoz tohoto systému a uchování veškerých údajů, což znamená, že pravděpodobně ještě mnoho let potrvá, než dojde k zavedení na celonárodní úrovni.

I přesto - vzhledem k tomu, že Peking bude brzy průkopníkem tohoto projektu ve veřejně odhalené formě – je třeba uvažovat o několika důležitých bodech. V tomto okamžiku není jasné, zda bude subjektům umožněn volný přístup k záznamům o jejich „sociálním kreditu“, a zda se budou moci odvolat, pokud se budou domnívat, že jim byl uložen nepřiměřený trest. To zároveň vyvolává otázku, jak dlouho budou uložena digitální data a záznamy z kamer. Další záležitost se týká toho, zda stát selektivně zveřejní informace o lidech na veřejné doméně, aby je zahanbil a posílil celkovou podporu společnosti vůči normám systému. Podle toho, co bude zveřejněno, mohlo by to mít vážné psychologické následky pro údajného porušovatele.

Kromě toho nikdo neví, jak algoritmus funguje, a zda bude možné určité sociálně-právní přestupky po nějaké době a/nebo prostřednictvím různých „rehabilitačních programů“ vymazat. To znamená, že by totiž existovala možnost, že by mladická lehkovážnost a nezodpovědnost, která by byla jiná, než trestněprávní, mohla zničit něčí život. V souvislosti s tím by záznamy systému o „sociálním kreditu“ byly vytrženy z kontextu životů subjektů, takže by například nebyl zohledněn násilnický vztah porušitele, pokud jde o zmírnění jakéhokoli vyměřeného trestu, jestliže by to nějak ovlivňovalo sociálně-právní porušení – například pokud by žena dala na veřejnosti facku svému partnerovi, který by byl verbálně hrubý. To by mohlo způsobit obtíže v bezpočtu případů, ale to už je na samotných Číňanech, aby vymysleli jakékoliv možné řešení.

A konečně, není známo, zda systém „sociálního kreditu“ bude aplikován na vládní a vojenské představitele, nebo zda budou „třídou sami pro sebe“, jejichž činy budou posuzovat lidské bytosti, a nikoli umělá inteligence. Lze argumentovat tím, že jejich zařazení do systému by mohlo být zneužíváno pro politické účely, pokud by byl lidský dohlížitel nebo „hlídač“ zkorumpovaný, ale na druhou stranu by také byli zodpovědní za jakékoli trestné činy, které by spáchali, a tudíž by to v očích veřejnosti zvýšilo důvěru v komunistickou stranu. Nadále uvidíme, zda tyto otázky, včetně mnoha dalších, které se týkají čínského systému „sociálního kreditu“, budou v budoucnu zodpovězeny, v současnosti je jisté pouze to, že největší země na světě vstupuje do bezprecedentní éry „algoritmického řízení“.

Poznámka editora

Moc hezký článek o této hrozbě vyšel nedávno na Lupě: Nekoupíte jízdenku, nepořídíte byt, kamery jsou všude. Čína testuje dystopické sociální skóre. Obávám se, že tentokrát to mají "elity" správně. Tohle je naše budoucnost. Už nebude zavírání do vězení, výslechy, policejní přepady v noci apod. Místo toho nastoupí všudypřítomné kamery, život v akváriu (viz Zamjatinův román My) a soft-útlak formou sociálního vyloučení. A drogy ničící osobnost (viz Huxleyho Báječný nový svět). Kanada minulý měsíc legalizovala marihuánu. Nepochybně přibudou další země a ještě tvrdší drogy. Na jedné straně perzekuce kouření tabáků, který nevede k rozpadu osobnosti, na druhé straně postupný přechod na osobnost ničící drogy. Totalita, která nebude bolet. A "elity" navždycky. Čína je testovací Petriho miskou.