Masové sledování pomocí umělé inteligence

Vzhledem k slabým stránkám mezinárodního práva a obecným zádrhelům, doprovázejícím snahy zformulovat globální právo na soukromí, jen málo takových omezení nebo problémů zaměstnává osoby, zodpovědné za sledování. Celá záležitost se rozrůstá, jde o virální komplex, jemuž nehrozí žádné omezování.

Carnegieho nadace pro mezinárodní mír (Carnegie Endowment for International Peace) zveřejnila znepokojující zprávu, byť s poměrně otravným poznámkovým aparátem, která tuto skutečnost potvrzuje. Zpráva se zaměřuje na technologii umělé inteligence (AI). Pro AI existuje jakás takás definice, která zní: „integrovaný systém, který zahrnuje cíle, zaměřené na získávání informací, principy logického usuzování a schopnost samostatných oprav“.

Když je to řečeno tímto způsobem, celá záležitost se zdá být neškodná. Například strojové učení „analyzuje velké množství informací kvůli rozeznání vzorce, s cílem vysvětlit současné údaje a předpovědět budoucí použití“.

Steven Feldstein - autor zprávy, kterou zveřejnila Carnegieho nadace - dodal několik znepokojivých informací. Poznamenává, že existuje vztah mezi vojenskými výdaji a používáním sledovacích systémů za pomoci umělé inteligence v jednotlivých státech, kdy „čtyřicet z padesáti zemí s největšími vojenskými výdaji na světě (založeno na kumulativních vojenských výdajích) také [používá] sledovací technologii za pomoci AI.“ Ve 176 zemích se na základě údajů, shromažďovaných od roku 2017, ukazuje, že sledovací technologie za pomoci AI nejsou jen dobrým domácím artiklem, ale prosperujícím exportním byznysem.

Ideologické dispozice režimu, o němž mluvíme, nejsou překážkou pro používání takového sledování. Liberální demokracie jsou zmiňovány jako hlavní uživatelé, 51 procent „vyspělých demokracií“ používá sledovací systémy. Je zajímavé, že toto číslo je menší v „uzavřených autokratických státech“ (37 procent), „volebních autokraciích/soupeřivých autokratických státech“ (41 procent) a „volebních demokraciích/neliberálních demokraciích“ (41 procent). Politický taxonom by ohledně tohoto tématu riskoval, že se ztratí v detailech, ale mrazivá realita bije do očí: všechny státy jsou závislé na sledovacích technologiích za pomoci Al.

Feldstein zcela truistickým způsobem upozorňuje na to, že „autokratické a poloautokratické“ státy zneužívají sledování za pomoci Al více, „než vlády v liberálních demokraciích“, ale porovnání jsou věnována analýze globálního závodu v technologické nadřazenosti. Rusko, Čína a Saúdská Arábie jsou označeny jako země, „využívající technologii AI pro účely hromadného sledování“, ale všechny státy hledají Svatý grál mas lidí, nejlepší by pro ně bylo neoprávněné sledování bez jakýchkoliv příčin. To, co odhalil Edward Snowden v roce 2013, zapůsobilo mnohem více, než cokoli jiného, neboť to zhatilo svéráznou představu, že ti, kdo se zavazují k bezpečnostním opatřením a svobodám, si zcela jistě uvědomují nekontrolovatelné trendy jejich bezpečnostního establishmentu.

Propojení mezi státem a korporacemi je nezbytné pro globální sledování, jde o symbiotický vztah, který odolává regulacím, nařízením a principům. To má větší dopad na zničení jakékoli věrohodné odlišnosti mezi státem, který je údajně svolnější k normám v oblasti lidských práv, a těmi státy, které nejsou. Společným pojítkem, jako vždy, je technologická společnost. Jak Feldstein poznamenává, vedle Číny „společnosti založené na liberálních demokraciích - například Německo, Francie, Izrael, Japonsko, Jižní Korea, Velká Británie, Spojené státy - aktivně prodávají sofistikovaná zařízení odporným režimům“.

Tyto trendy zdaleka nejsou nové. V roce 1995 nezisková organizace Privacy International zveřejnila zprávu s nezaměnitelným názvem  Akciová společnost Velký bratr (Big Brother Incorporated), podávající přehled o sledovací technologii, která se stala známou pod příhodným názvem Repression Trade. „Velká část této technologie se používá ke sledování aktivit disidentů, aktivistů v oblasti lidských práv, novinářů, studentských vůdců, menšin, odborových vůdců a politických odpůrců.“

Korporace bez konkrétní loajality, kromě loajality vůči zisku a akcionářům, jako je např. britská počítačová firma ICL (International Computers Limited), byly identifikovány jako klíčoví projektanti, stojící za jihoafrickým automatizovaným systémem Passbook, výrazným charakteristickým rysem apartheidu. V 80. letech izraelská společnost Tadiran v souladu s bohatou tradicí technologie Repression Trade zásobovala vražednou politiku v Guatemale počítačově zpracovanými seznamy smrti v rámci úsilí o „zpacifikování“.

Velmoc, která v současné době pádí tryskem, pokud jde o sledovací technologie AI, je Čína, opírající se o vlivnou iniciativu „Jedno pásmo, jedna cesta“, kterou její fanoušci označují slibným názvem čínský Marshallův plán. Kde existují tržní pobídky, existují vyhlídky na nákup technologie AI. „Technologie spojené s čínskými společnostmi se nacházejí v nejméně šedesáti třech zemích po celém světě. Samotná Huawei poskytuje sledovací technologie za pomoci umělé inteligence nejméně padesáti zemím.“ Spekuluje se o tom, že čínská technologie může vzhledem k „agresi čínských společností “ dost dobře posílit schopnosti sledování v rámci určitých afrických trhů.

Další velmoci se také podílejí na tom, co se stalo sférou agresivních konkurentů. Japonská společnost NEC je sama o sobě kolos, dodávající technologie do zhruba 14 zemí. Společnost BM udržuje krok jako významný americký hráč, zásobující 11 zemí. Tento konkrétní subjekt na sebe upozornil v květnu letošního roku zprávou, která odhalila prodej biometrických sledovacích systémů bezpečnostním a špionážním agenturám ve Spojených arabských emirátech. Dalším příjemcem sledovacích technologií IBM jsou Filipíny, země, která by strašně ráda poskytla svým policejním jednotkám prostředky pro sledování a poměrně často vraždila své občany. (Komanda smrti ve městě Davao jsou toho krvavým příkladem.)

Problémy s Feldsteinovou zprávou musely přirozeně nastat. Sám Feldstein pokorně přiznává, že metoda vzorkování může být sporná, pokud jde o získání celkového obrazu o tomto odvětví. „Vzhledem k neprůhlednosti vládního sledování je téměř nemožné přesně určit podle let, jaké platformy nebo systémy AI jsou v současné době používány.“ Ani rejstřík „nerozlišuje mezi sledováním pomocí AI, používaným pro legitimní účely, a nezákonným digitálním sledováním“. Je to opravdu temná oblast.

Feldstein si je i přes veškerou drsnost svých zjištění vědom lákavého elementu, který různé platformy nabízejí. Přebujelé a amorální sledování pomocí Al by dost dobře mohlo být hrůzným vedlejším produktem technologie, ale tato oblast se hemží sliby „hlubokého učení, cloudového programování a shromažďování údajů online“, „zlepšeného výkonu složitých algoritmů, a tržně orientovaných pobídek pro nové použití technologií AI“. To v jistém smyslu ukazuje na dvojtvárnou povahu kritiky takového počínání; souvisí s tím i určité vychvalování této sféry, což je pochopitelné vzhledem k Feldsteinově profesní minulosti - pracoval jako náměstek ministra zahraničí (demokracie, lidská práva, úřad práce) na americkém ministerstvu zahraničí.

Feldstein dává podnět k varování. „Jakmile budou tyto technologie stále více začleňovány do správy a politiky, prostor pro změnu se bude zužovat.“ V mnoha případech se však tento prostor příliš nezúžil, ale přímo uzavřel, a to před desítkami let.