Negyedik ipari forradalom és demokrácia?

A Big Data találkozása a Big Brotherrel – Kínában 2020-ra kiépülhet Orwell 1984-e. Vajon Kína jelene a mi közeljövőnk?

A negyedik ipari forradalom az információk begyűjtésének, továbbításának, feldolgozásának és alkalmazásának a forradalma. Ám digitális információ nemcsak a termelésben, de például a fogyasztásban, az emberek hétköznapi tevékenységei során is generálódik. Napjainkban a világ egyik legtermészetesebb dolga, hogy nemcsak a kereskedelemben, a marketingben, de még a politikában is egyre gyakrabban használják fel az állampolgárokról gyűjtött adatokat. A különböző banki és pontgyűjtő kártyák, a netes keresések mind-mind árulkodnak rólunk. Az így begyűjtött adatok értéke túlnőheti mind a termőföld, mind a gépek és gyárak értékét. Ám ha egy állam vagy cég túl sok adattal rendelkezik, az egyfajta digitális diktatúrához vezethet.

Az arcfelismerésen alapul minden…

Hat évvel ezelőtt még szenzációnak számított, hogy a Pentagon és a CIA volt tagjainak cége, a Trapwire arcfelismerő programokkal figyeli a térfigyelő kamerák szolgáltatta képeket. A szoftver arcról vagy akár járásról is felismeri a zárt láncú megfigyelőrendszer látóterébe kerülő személyeket, és elemzi a viselkedésüket. Ha valaki például többször visszatér fényképezni ugyanarra a helyszínre, vagy túl hosszan időzik valahol, akkor a Trapwire jelenti a megrendelőnek (ami lehet pl. a nemzetbiztonsági szolgálat), hogy emelje meg a helyszínen a fenyegetettségi szintet. Egy ilyen technológia használata ma Kínában annyira megszokott, mint nekünk az, hogy a csapból víz folyik. Napjaink kínai valósága a tökéletesre fejlesztett arcfelismerés, a szokásokat és megnyilvánulásokat elemző algoritmusok, a mesterséges intelligencia segítségével jutalmazott és büntetett alattvalók, egyszóval: a totális megfigyelés kora! És nincs, ami a folyamatot megállítaná…

2014-ben a Kínai Tudományos Akadémia kutatói – más egyetemekkel együttműködve – egy egyedülálló technológiát fejlesztettek ki az adatok begyűjtésére, amely az arcról 91 különböző szögből egyszerre szerzett információt. Az arcfelismerés olyan megbízhatósági fokot ért el, hogy napjainkra már széles körben működik egy, ezen alapuló fizetési megoldás is. A felhasználók telepítenek egy alkalmazást a telefonjukra, amely egy pillanat alatt azonosítja őket, aztán összekapcsolják az appot a bankkártyájukkal.

Az arcfelismerés az alapja a 2015-ben alapított Cloud Walk nevezetű kínai cég fejlesztésének is [1]. Ez nemcsak a járókelők arcának azonosítására képes, de követni is tudja azok mozgását, viselkedését. Ehhez természetesen sok, nyilvános helyen felszerelt kamerára van szükség, ám Kínában ebből egyáltalán nincs hiány – becslések szerint a számuk az országban meghaladja a 200 millió darabot! A cég szoftvere arra is képes, hogy összekapcsoljon különböző cselekedeteket és azok láncolata alapján emeljen a veszélyességi fokozaton. Például: ha valaki vesz egy konyhakést, attól nem fog vörösen izzani a rendőrségi képernyőkön, ám ha ugyanezzel a lendülettel beszerez egy kalapácsot és egy nagy zsákot is, akkor a rendszer megemeli a szintet. Ez alapján pedig a rendőrök eldönthetik, hogy elbeszélgetnek-e az illetővel a bevásárlási szokásairól. A Cloud Walk rendszerének egyedisége az egyénben rejlik, azaz a kormányzati szervek a rendelkezésükre álló tengernyi adat és az élő kamerafelvételek alapján személyre lebontva képesek azonosítani és figyelemmel kísérni a gyanúsan viselkedőket. Ma már arcfelismerő szoftverrel ellenőrzik a diákokat is: ki lóg, ki nem figyel oda az órán, ki próbál meg csalni a vizsgán. [2]

Biztonsági kamerák egy vasútállomáson

Diákok arcalapú beazonosítása egy egyetemi vizsgán

A rendszernek számtalan előnye lehet(ne) olyan, valóban égető probléma kezelésében, mint a korrupció vagy az adóelkerülés, járványok kialakulásának megelőzése, jobb élelmiszer-biztonság, környezetszennyezés megakadályozása, csökkentése.

…és megjelenik a mindent átfogó kreditrendszer

Az eddig felsorolt alkalmazási területek pozitív példaként állhatnak előttünk. Egy baj van csak: a rendszert továbbfejlesztették.

A totális megfigyelés Kínában egy régi hagyományon alapul. Az állam úgy véli, hogy csak egy erős, autoriter rendszer tud rendet tenni egy turbulens országban. Merthogy Kína egy ideje változásokon ment keresztül. Mao Ce-tung még a kemény diktatúrára építette hatalmát, de későbbi utódai rájöttek, jobb alkut kötni az alattvalókkal. Ha nem szólnak bele a politikába, ha nem állnak ellen, akkor lehetőséget kapnak arra, hogy a politikán kívül azt csináljanak, amit akarnak, így akár meg is gazdagodhatnak. A cenzúra és az állami erőszakszervezet erős maradt, az emberek mégis szabadabbnak érezhették magukat. Ez a hozzáállás nagyban segítette az elmúlt évtizedekben, hogy a kínai gazdaság is növekedjen. Csakhogy a gazdasági növekedés mára érezhetően lelassult. A hatalom ezért félelmében az autoriter eszközökhöz nyúl, és azért, hogy biztosra menjen, úgy tűnik, a digitális diktatúrában látja a kiutat. A rendszerhez lojális embereket jutalmazza, a rendszerre veszélyeseket bünteti. Az utcákon, tereken, közintézményekben, üzletekben elhelyezett kamerák az arcfelismerő szoftverek segítségével gyűjtik be az adatokat, így az emberek kénytelenek „jól viselkedni”, ha nem szeretnék, hogy hátrány érje őket.

Ma már ott tartanak, hogy kidolgozták és bevezetik a nagy társadalmi kreditrendszert. Az állampolgár-minősítő rendszer terve már többször végigszaladt a nyugati sajtón, miután 2014 nyarán egy kutató lefordította angolra a tervezet szövegét [3]. Ennek a lényege, hogy Kínában az embereket, a civil szervezeteket és a cégeket is egy állami rendszer pontozza. A pontrendszer már most működik, de csak 2020-tól lesz kötelező. Az emberek szokásai, viselkedésük, társadalmi státuszuk és a környezetük határozza meg, hogy mennyi kreditjük van. Minél magasabb valakinek a pontszáma, annál könnyebben boldogul az életben, könnyebben kap állást, hitelt és ugyanez fordítva: minél kevesebb a kredit, annál nehezebben jut egyről a kettőre.

A valóság már ma is megdöbbentő. Az ausztrál ABC egy hosszabb cikkben mutatta be [4] a nagy társadalmi kreditrendszer működését napjainkban. A szerző két példát hoz fel: az egyik egy olyan 37 éves nőé, akinek magas a kreditje. A legfontosabb oka ennek, hogy a rendszerhez lojális, nincsenek káros szenvedélyei és – nem utolsósorban – fizetőképes. Azt, hogy az illető mennyire fizetőképes, egy online rendszer, a Sesame Credit segítségével mérik. A Sesame Creditben 800 pontot lehet elérni, az említett nőnek 770 pontja van. Öt tényező befolyásolja a pontszámot [5]:

A kínai Pay Pal, az Alipay rendszerén keresztül fizetett vásárlások: hányszor és mennyit költöttek a felhasználók.
Időben fizetett számlák az Alipayen keresztül.
Időben fizetett hitelkártya-tartozások az Alipayen keresztül.
Személyes adatok (lakóhely és foglalkozás) megadása. Pont azért jár, hogy a felhasználók egyáltalán megadják ezeket az adatokat, azok tartalma elvileg nem számít be.
Pluszpontot jelent, ha valakinek csatlakoznak a barátai is – de csak maga a csatlakozás, a barátok személyes adatai nem számítanak a saját pontokba.

Az ABC által felhozott ellenpélda egy oknyomozó újságíró, Liu Hu. Neki nulla kreditje van, a kormány őt ellenségként kezeli. Értelemszerűen nem kaphat hitelt, de még egy vonatjegyet sem tudott vásárolni online. Azután vesztette el a kreditjeit, hogy egy cikk miatt beperelték, ő pedig nem tudta kifizetni a bírságot.

Algoritmikus kormányzás

A The New York Times [6] egy szakértője szerint a kormányzat célja az algoritmikus kormányzás, összekötve a nyilvános megszégyenítéssel. Vannak olyan helyek, ahol a szabálysértők neve és azonosítási száma azonnal megjelenik egy nagy kivetítőn. A kínai kormány a következő években még további 400 millió, mesterséges intelligenciával és arcfelismerő technológiával megtámogatott kamerát akar üzembe helyezni.

Ezt a fajta népnevelést könnyen el tudja adni a kínai állami propaganda, ha a közbiztonság felől közelít. A térfigyelő kamerák mögött az arcfelismerő algoritmusok pillanatok alatt megtalálhatják a szökevényeket. Rengeteg ilyen hírrel van tele (nemcsak) a kínai média. Van, amikor hatvanezer néző között találnak meg egy körözött férfit, máskor a pályaudvaron, kamerás szemüveggel járőröző rendőrök gyűjtenek be így több tucat bűnözőt.

Arcfelismerő rendszer a stadionban

Rendőrök AI okosszemüvegben Luoyangban

Az embereknek az állam látszólag biztonságot ígér, cserébe elveszi tőlük a magánszférát, és kialakít egy digitalizált diktatúrát. Persze mindezt meg is tudják indokolni, ideologizálni. A Kínai Társadalomtudományi Akadémia által megfogalmazottak szerint a kínai társadalom az utóbbi évtizedek változásai miatt „… az ismerősök társadalmából az idegenek társadalmává vált”. Hogyha pedig az emberek már nem a megfelelő erkölcsi értékek szerint cselekszenek, akkor bizony „… szükség van egy rendszerre, amely korlátozza a cselekedeteiket”.

A 2014-es tervezetet is angolra fordító Rogier Creemer, az Oxfordi Egyetem kínai jogalkotással foglalkozó kutatója szerint a kormány nemcsak a pénzügyi és jogi szabályokat, de az általa kívánatosnak tartott erkölcsi értékrendet is ezzel a kötelező rendszerrel akarja betartatni [7]. Creemer a volt keletnémet rendszerhez hasonlította a tervet, de ez szerinte sokkal ambiciózusabb, mert míg az NDK-ban a rendszerellenes cselekedeteket akarták megakadályozni a Stasi megfigyelési gyakorlatával, addig a kínai rendszer nyilvánvaló kísérlet egy újfajta állampolgár létrehozására.

A kínai kormány egyébként is mindig tartotta a lépést a korral: a Nagy Tűzfal netcenzúrája és a Nagy Ágyú kiberfegyvere, vagy éppen a december végi „terrorizmusellenes” törvénycsomag is mutatja, hogy nem a kreditrendszer lenne az első lépés a kiberszocializmus útján. Ami biztos, hogy minden eddiginél nagyszabásúbb bigdata-projekt lesz (ha egyáltalán sikerül) a több mint 1,3 milliárd ember minden adatának összesítése, naprakészen tartása, kezelése és értékelése egyetlen gigantikus rendszerben. Ha mégis megvalósulna, úgy ez – a történelmi tapasztalatokkal megtámogatva – már önmagában ad okot az aggodalomra.

Ugyanakkor a Business Insider [8] arról ír, hogy bár a közzétett sikerszámok valóban impozánsak, a valóság még nem tudja annyira kiaknázni az arcfelismeréses technológia adta lehetőségeket, mint amennyire egyesek szeretnék. Egyszerűen azért nem, mert túl sok ember arcát kell túl rövid idő alatt elemezni. A rendőrök egyelőre inkább a technológia visszatartó erejében hisznek, mondván, ha az emberek tudják, hogy figyelik őket, ezerszer is meggondolják, mit tesznek.

Atyáskodó állam vár Európára is?

A nyugati világ nagy része elítéli a kínai tervet. Ugyanakkor egyes emberek (például politikai okokból történő) megfigyelése már ma is lehetséges, miközben a bűnüldözés, a visszaélések visszaszorítása háttérbe szorul. Kína speciális demokráciájában a kormánynak nem kell félnie a személyes adatok kezelése során felmerülő aggályoktól. Ha úgy gondolják, hogy ezek az adatok felhasználhatók a társadalom jobbá tételére – jelentsen ez bármit –, akkor megteszik. Az Európai Unióban és az Egyesült Államokban ezzel szemben sokkal érzékenyebb kérdés az adatvédelem és a privát szférához kapcsolódó jogok.

A nyugati világ évek óta próbálja elhessegetni a féltitkos állami megfigyelések sötét felhőit, ami csak még inkább elvonja a figyelmet arról, hogy netes szokásaink alapján milyen részletgazdag hirdetési profilokat építgetnek rólunk a magánvállalatok. Miközben mi itt, nyugatabbra felháborodunk a Kínában történteken, sokszor nem vesszük észre, hogy nálunk is hasonló dolgok történnek. Csak remélhetjük, hogy a végkifejlet nem fogja Orwell látomásait idézni!