Mint arról már az ELEKTRONET 2018/7. számában is írtunk, Kína speciális demokráciájában a kormánynak nem kell félnie a személyes adatok kezelése során felmerülő aggályoktól. Ha úgy gondolják, hogy ezek az adatok felhasználhatók a társadalom jobbá tételére – jelentsen ez bármit is –, úgy megteszik. Napjaink Kínájában az egész országra kiterjedő, az arcfelismerésen alapuló személyazonosító rendszer működik. Olyannyira, hogy új mobiltelefon-előfizetés is csak arcfelismerős regisztráció után lehetséges. Ebbe zavart bele a koronavírus-járvány, ami miatt az ország több tartományában kötelezővé tették a maszkok viselését. Az, hogy az utcákon szinte csak védőmaszkos embereket látni, váratlanul egy sor technológiai eredetű problémát okozott, hiszen az arcfelismerésen alapuló technológia ilyen körülmények között csak korlátozottan tud működni. Anekdotaszámba megy, hogy az országot behálózó digitális megfigyelőrendszer akadozása miatt a kínai hatóságok kénytelenek visszanyúlni régebbi elnyomó technikákhoz: arra biztatják polgáraikat, hogy szükség esetén jelentsék föl egymást. Ez elsősorban a járvány megfékezését célzó lépés, de nyilvánvalóan működik a bűnmegelőzés és a politikai elnyomás terén is.
Ugyanakkor az utca embere sokszor észre se veszi ezt, sőt a megfigyelést pozitívnak értékeli, mert szerinte eredményes lehet a visszaélések visszaszorítása, a bűnüldözés terén. Így például nem tiltakoznak, amikor bűnmegelőzési szándékkal kamerás megfigyelőrendszert épít ki a második legnagyobb indiai város, az elővárosokkal együtt 26 milliós Delhi kormányzósága. Városszerte több mint 250 ezer térfigyelő kamerát szerelnek fel lakó- és kereskedelmi övezetekben, iskolákban. Ausztráliában egy új többpárti törvényjavaslat biometrikus azonosításhoz kötné a pornográf internetes tartalmakhoz való hozzáférést. Az ausztrál belügyi tárca által is felkarolt kezdeményezés lényege, hogy a pornónézést az állam részéről a központi Arcazonosító Szolgálat (Face Verification Service) engedélyezné, amennyiben az arcfelismerő algoritmus 18 évesnél idősebbnek találná a számítógép, tablet vagy telefon használóját.
Betilthatja az EU az arcfelismerést
A magánemberek vélekedésével ellentétben az Európai Unió és az Egyesült Államok szakértői szerint sokkal érzékenyebb kérdés az adatvédelem és a privát szférához kapcsolódó jogok. 2018-tól él a GDPR adatvédelmi szabályozás, melynek fő célja, hogy az EU polgárai ne legyen kitéve a személyes profilt alkotó, automatizált rendszerek döntéseinek. Ezen az elven alapulva javaslat készül az arcfelismerő technológiák átmeneti betiltására az Európai Unió nyilvános területein, hogy megelőzzék a lakosság teljes megfigyelését. Az egyelőre csak vázlat formájában létező, várhatóan nemsokára véglegesedő javaslat 3–5 évre fagyasztaná be az arcfelismerő rendszerek telepítését a vasútállomásokon, sportlétesítményekben és bevásárlóközpontokban. A kamerák esetében ideiglenes jelleggel azért vezetnék be a tiltást, hogy legyen idő azonosítani a mesterséges intelligencián alapuló automatikus személyazonosítás kockázatait, és kidolgozni a szükséges finomhangolásokat.
Viszonylag gyorsan kell lépnie az EU-nak, ha eredményeket szeretnének elérni, mert az arcfelismerés az egyik leggyorsabban fejlődő terület az informatikában. Az érdeklődés is nagy iránta, világszerte telepítenek arcfelismerő rendszereket. Egyes országokban az erőforrás-hiányos hatóságok azt remélik, hogy ezzel tudják majd hatékonyabban visszaszorítani a bűnözést. A telepítőországok közé tartozik az EU-ból kilépő Nagy-Britannia. Idén januárban jelentette be a Metropolitan Police Service, azaz a brit főváros rendőrsége, hogy elkezdte élesben használni az arcfelismerő technológiát. A programba egyelőre London kulcsfontosságú területeit kapcsolják be, ahol valós időben tudják analizálni a köztéri kamerák felvételeit. Amennyiben a felvételek nem generálnak semmiféle riasztást, akkor azokat a képsorokat haladéktalanul törlik, riasztás esetén sem feltétlen történik intézkedés, erről a szolgálatban lévő tisztek döntenek. A rendszer egyébként teljesen független London egyéb képrögzítő hálózataitól, így például a nem állami tulajdonban lévő zártláncú biztonsági hálózatok, vagy a rendőrökre már korábban felszerelt testkamerák sincsenek rákötve az arcfelismerő technológiára.
Itt kell megemlíteni: Magyarországon 2019. december végén szavazta meg az Országgyűlés egy „salátatörvény” részeként, hogy arcfelismerő szoftvert használhat az a rendőr, aki olyan igazoltatott emberrel kerül szembe, aki nem tudja azonosítani magát.
Az USA-ban használják, de helyenként már tilos
Az arcfelismerésen alapuló ellenőrzés az Egyesült Államokban egyre inkább kiváltja a hagyományos útlevél-ellenőrzést a nemzetközi utazásoknál (hasonló példákról világszerte több ország vonatkozásában is beszélhetünk). A dolog ideális esetben úgy működik, hogy a beengedőkapuknál az utasoknak nem kell semmilyen személyes okmányt felmutatniuk, ehelyett az arcszkenner készít róluk fényképet, amit a mesterséges intelligencián alapuló rendszer összevet a szövetségi hatósági adatbázisban lévő fotókkal. A hatóságok szerint így sokkal nagyobb biztonsággal lehet azonosítani az embereket, és humán segítséggel lehet kiszűrni a bűnözőket és a többi problémás esetet – igaz, az utasok hozzájárulása is kell hozzá, megtagadhatják az arcszkennert.
Ebbe a vonulatba csatlakozik a Clearview AI startup 2016 óta fejlesztés alatt álló technológiája. Ez lehetőséget ad arra, hogy egy ismeretlen ember képét feltöltve átfésüljenek egy több mint hárommilliárd fotóból álló adatbázist, majd megmondja az adott személy nevét, akár címét is. A Clearview AI több millió internetes oldalról fésüli össze a fotókat, köztük a Facebookról, YouTube-ról, Venmóról, így a mögötte álló könyvtár hétszer akkora, mint az amerikai Szövetségi Nyomozó Irodáé (FBI). A szoftver algoritmusa annyira fejlett, hogy állítólag a nem túl jó minőségű, furcsa szögből fotózott arcokat is képes felismerni, például a térfigyelő kamerák által készítetteket. Egyelőre csak 75 százalékos pontossággal dolgozik, de állítólag már több bűnözőt is sikerült azonosítani a segítségével korábbi nyomozások során.
Egy másik eset a használatra: az amerikai állami gépjárműhivatalok (DMV) adatbázisát az FBI és a Bevándorlási és Vámügyi Ügynökség (ICE) ellenőrzi arcfelismerő szoftverekkel. A DMV adatbázisai az adott tagállamban élők adatait és fotóit tartalmazzák, olyanokéit, akiknek nagy többsége sohasem került összetűzésbe a törvénnyel. Az FBI és az ICE munkatársai a tagállami szinten működő gépjárműhivatalok által tárolt adatok ellenőrzésével amerikaiak millióinak adatait és fotóit ellenőrzik az érintettek tudta és beleegyezése nélkül. (A gépjárműhivatalok adják ki a jogosítványokat is, amelyek az Egyesült Államokban személyazonosító igazolványként is használatosak.)
Kongresszusi politikusok véleménye szerint ezt a megfigyelési módszert a szövetségi kongresszus, vagy egyes tagállamok törvényhozása felhatalmazása nélkül alkalmazzák. Nem csoda, hogy közfelháborodást keltett és a kormányzati túlterjeszkedés és a közbizalom megrendítése miatti aggodalomból például a kaliforniai San Franciscóban és a massachusettsi Somerville-ben a rendőrségnek és a kormányhivataloknak megtiltották az arcfelismerő szoftver alkalmazását.
Érthetők az állampolgári aggodalmak, amire szolgáljon egy elsőre viccesnek tűnő, de a valóságban szomorú példa. Amerikában az arcfelismerő szoftverek rendőrségi testkamerákon való használata ellen korábban törvényjavaslatot nyújtott be egy Phil Ting nevű úr, aki egyike volt annak a 26 kaliforniai törvényhozónak, akiket 2019 augusztusában egy arcfelismerő program tesztelése során hibásan azonosítottak bűnözőként. Amikor az American Civil Liberties Union nevű jogvédő szervezet egy 25 ezer, nyilvánosan hozzáférhető fényképpel ellátott bűnügyi adatbázisban használta a szoftvert a képviselők képeinek átfuttatására, az arcfelismerő program majd' minden ötödik jogalkotó arcát kapcsolta tévesen egy olyan emberhez, akit már korábban letartóztattak.
Nemcsak arcalapú felismerés létezik!
Nem vitás, hogy mindezeket a törekvéseket jó szándék vezérli. Csakhogy az arcfelismerés a személyeket azonosító technológiáknak csak egy kis szelete. Miközben mi itt, nyugatabbra felháborodunk a Kínában történteken, sokszor nem is tűnik fel, hogy nálunk is hasonló folyamatok játszódnak le. Elég csak belegondolni abba, hogy netes szokásaink alapján milyen részletgazdag hirdetési profilokat építgetnek rólunk egyes magánvállalatok. A neves biztonsági szakember, a Harvard Kennedy School munkatársa, Bruce Schneier szerint az arcfelismerés betiltása csak eltereli a figyelmünket a lényegről. Azt kell eldöntenünk, hogy milyen társadalmat akarunk, és aszerint kell az új, megfigyelésre, beazonosításra alkalmas technológiákat kezelni,szabályozni.
Minden megfigyelési technológia három alappillérre épül: az azonosításra, a korrelációra és a megkülönböztetésre. Az arcfelismerésnél például a kamerák képét vetik össze gépi tanulási algoritmusok meglévő képeivel. Ha ezt betiltjuk, a megfigyelők áttérnek más módszerre, erre már ma is van jó pár lehetőség. A jól ismert írisz-, vagy ujjlenyomat-alapú beazonosítás mellett használhatnak biometrikus jellemzőket, de a kameráknál lényegesen nagyobb távolságból azonosítható valaki a szívritmusával. További lehetőség a lépéstávolság, a karok helyzetének és mozgásának elemzése. De ott van még a mobiltelefonunk (MAC-cím, SIM stb.), a bankkártyánk, az autónk rendszáma… Beazonosítás után már könnyedén össze lehet kapcsolni a különböző helyen és időben rólunk gyűjtött adatokat, és akár percre pontosan követhető minden tevékenységünk. Összekapcsolhatók böngészési adataink, a kommunikációnk (kivel milyen csatornán mit beszéltünk), jövedelmünk, etnikai hovatartozásunk,az életmódunkra, szakmánkra, érdeklődésünkre vonatkozó információk stb.
Az ország érdekeit védő nemzetbiztonsági intézmények mellett napjainkra már kiépült egy globális iparág, amely abból él, hogy a különböző forrásokból származó adatok összegyűjtésével és elemzésével pontosan meg tudja határozni, ki és mi vagyunk, és ezeket az információkat hozzájárulásunk nélkül pénzzé teszik. A megfigyelőkapitalizmus (surveillance capitalism) fogalmát általában a Facebookkal társítják, pedig ez a paradigmaváltásnak is nevezhető üzleti modell a Google nevéhez fűződik. Shoshana Zuboff , a Harvard Egyetem professzora, a The Age of Surveillance Capitalism című könyv szerzője szerint a megfigyelőkapitalizmus ingyenes nyersanyagként használja az emberi tapasztalatokat,hogy a begyűjtött adatokat egyoldalúan,a felhasználó engedélye nélkül viselkedési adatokká (behavioral data) alakítsa. A Google nem kér pénzt az Android mobiloperációs rendszerért, de nem szívjóságból adják ingyen: nekik ez egy platform ahhoz, hogy a felhasználói adatokat forintosítsák. Az online keresési szokásainkat, a Gmail-fiókunk tartalmát, a YouTube-os lejátszási listáinkat, sőt az egérmutatónk mozgását is éber algoritmusok figyelik évek óta. Mostanra jobban kiismertek minket, mint mi saját magunkat. Ez teszi lehetővé a vállalatoknak, hogy személyre szabott hirdetéseket, ajánlatokat, webes tartalmakat stb. küldjenek mindenkinek. Egy kifinomult algoritmus ezerszer hatékonyabban juttathat célba egy személyre szabott hirdetést, mint a világ legjobb reklámszakemberei. Ehhez persze megfelelő analitikai módszerekre van szükség:
A kognitív elemzés intelligens technológiákkal dolgozza fel a rendelkezésre álló adatokat, hogy kinyerhessék az üzleti hírszerzésben (business intelligence) használható információkat. Ehhez emberszerű gépi intelligenciát használnak, ami nemcsak szavakat ért meg, hanem a szöveg kontextusát, sőt akár objektumokat is felismerhet egy-egy képen.
A viselkedési elemzés a felhasználói szokásokat elemzi. Az algoritmusok felismerik a felhasználók online-viselkedését, így a keresési előzmények és a kattintások alapján olyan termékeket és szolgáltatásokat kínálhatnak, amire szükségük lehet. Az elektronikus vásárlási szokásaink, a közösségi médiában adott reakcióink és a webböngészési előzmények látszólag összefüggéstelen adathalmazt generálnak, de a mintafelismerésre képes algoritmusok ebből összerakhatják a felhasználó profilját, és kísérletet tehetnek a felhasználói szokások megjósolására.
A clickstream elemzés az egérhasználatot figyeli: elemzi, hogy a felhasználó mire kattint, mit talál érdekesnek, és hogy viselkedik az online felületeken.
Az összehasonlító elemzés a bigdata alapú analízis egyik legfontosabb eszköze. Az ehhez használt algoritmusok statisztikai módszerekkel – például filterezéssel, döntésifa-elemzéssel vagy mintafelismeréssel – végeznek összehasonlító elemzést. Ezt nemcsak az online hirdetési piacon használják, hanem az egészségügyben is – például arra, hogy orvosi leletek tömeges összevetésével segítsék elő a pontosabb diagnózist.
A kapcsolatelemzés olyan kapcsolati hálókat vizsgál, amik összekötik a felhasználókat az internethasználati szokásaikkal, a vásárlási és böngészési szokásaik közti összefüggésekkel, vagy az influencerekhez fűződő viszonyukkal. Gyakorlatilag arra használják, hogy feltérképezzék az emberek, termékek, csoportok, rendszerek összefüggéseit egy-egy hálózaton belül.
Az érzelmi elemzés kísérletet tesz a felhasználók véleményének, érzéseinek, reakcióinak és döntéseinek nyomon követésére. Egy lájk a Facebookon, egy felmérés kitöltése, egy ügyfélszolgálat felkeresése mind ilyen reakciók; ha mindezt kombinálják a szövegelemzési módszerekkel és a természetes nyelvfeldolgozással (natural language processing), felmérhetővé válik, hogy az egyes felhasználók hogyan viszonyulnak bizonyos termékekhez, eseményekhez, személyekhez vagy szolgáltatásokhoz.
Találkozik az állami és a magánhírszerzés
Ma már több mint 150 (ismert) amerikai katonai műhold figyeli a Földet, melyek harmadát az amerikai Nemzeti Felderítő Hivatal (National Reconnaissance Office, NRO) üzemelteti. De emellett jelentős azon megfigyelő műholdak száma, amelyeket magánhírszerző cégek működtetnek. Így aztán az amerikai állami hírszerzőszervek 2016-ban el is indították a Commercial GEOINT Activity nevű közös programot, amelynek a keretében felvásárolják ezektől a cégektől az értékes adataikat.
A BlackSky nevű magáncég 25 műholdról,70 ezer hajóról és repülőgépről,100 millió mobileszközről, több ezer internetre kötött okoseszközről, 5 ezer környezeti szenzorból, 40 ezer hírforrásbólés 8 közösségi oldalról származó adatot kezel és összesít, és a jövőben 60 saját műholdat tervez hadrendbe állítani. Mindegyik adattípusból más-más hasznos információ nyerhető ki: a hírekből személyek,szervezetek, helyek, események,más kulcsszavak; a képekből a helyszínek változásai, például amikor a képfelismerő algoritmusok kiszúrják, hogy felszállt egy katonai repülőgép a légibázisáról, vagy hogy megrongálódtak-e az épületek egy földrengés után és így tovább. A cégrendszere ezeket a már feldolgozott, de még mindig különálló információmorzsákat igyekszik összekötni, hogy értelmet adjon nekik. Ha például eltűnt egy orosz vadászgép a bázisról, az a normálisműködési mintázat része-e (gyakorlatozik vagy másik bázisra szállították), vagy szokatlan esemény; utóbbi esetében van-e a közelben olyan történés, amely indokolhatja ezt stb. Majd az így felfedezett összefüggések alapján döntéseket hoz, például a potenciálisan érdekes irányba állítja a műholdakat, illetve riasztja az emberi elemzőket, hogy munka van.
Az amerikai hadsereg által a közelmúltban nyilvánosságra hozott, eddig titkos dokumentumokból egy mesterséges intelligenciára épülő, új műholdas rendszer képe bontakozik ki. A titkos projektről még mindig keveset tudni, de annyi biztos, hogy példátlan megfigyelőgépezet jöhet létre, ha egyszer elkészül. Egy olyan rendszerről van szó, amely műholdakkal figyeli a Földet, ömlenek bele a milliónyi forrásból származó, legkülönfélébb adatok, és ezeket olyan kifinomult módon képes feldolgozni, hogy megérti a múltbeli trendeket, sőt ezek alapján képes előrejelezni bizonyos jövőbeli történéseket is. Vagyis: ez egy fejlett, automatizált térinformatikai rendszer, amely közel valósidejű stratégiaalkotást és műveletirányítást tesz lehetővé. A neve: Sentient (érző,érzésekre képes).
A Sentienthez köthető kutatások már legalább 2010 óta tartanak. Az egész folyamathatalmas titkolózás közepette zajlik. Ritka kivételként 2016-ban egy képviselőházi bizottsági meghallgatás során elhangzott róla egy rövid összefoglaló. Majd legutóbb 2018-ban került nyilvánosságra egy prezentáció, amely szerint már abban az évben élesedett volna a rendszer. Az azóta nyilvánosságra hozott dokumentumok ellenére ma sem vagyunk sokkal okosabbak azzal kapcsolatban, hogy pontosan hogyan fog működni a rendszer. Az NRO ennyit árult el: a Sentient nagy mennyiségű adatot nyel el és dolgoz fel; katalogizálja a normális mintázatokat, felderíti az anomáliákat, és segít előrejelezni és modellezni az ellenségek potenciális cselekedeteit. Várható, hogy ha a Sentient egyszer működésbe lép, a BlackSky és a többi partnercég adatai is szépen befolyhatnak a rendszerbe a saját gyűjtésből és más forrásokból származó többi adattal együtt. Ám, hogy ez mikor valósulhat meg, azaz milyen fázisban tart ez a fejlesztés – ezt egyelőre a világon nagyon kevesen tudják,és ők sem beszélnek róla.
Annyi azonban biztos, hogy a műholdak képein túl ma már jóval több minden számít térinformatikai adatnak: gyakorlatilag minden, amihez idő- és térkoordináták rendelhetők, pl. időjárási, pénzügyi, szállítmányozási adatok, akár egy felcímkézett Facebook-bejegyzés vagy egy elcsípett csetüzenet is. Vagyis: olyan elképesztő mennyiségű adat áll rendelkezésre,amelyet emberi erővel képtelenség feldolgozni. Itt jön a képbe a gépi segítség, azaz a mesterséges intelligencia, amellyel a Sentient automatizálja az adatfeldolgozást és segít összekötni különféle adatokat, illetve felfedezni bennük az összefüggéseket és trendeket, hogy az emberi elemzők mindig tudják, hova és mire kell figyelni, hogy a lényegre tudjanak összpontosítani.
Talán a szabályzás még segíthet rajtunk…
Az amerikai jogrend furcsaságai közé tartozik, hogy magáncégek műholdas adatgyűjtése kevésbé szigorúan szabályozott terület, mint az állami ügynökségeké – ez utóbbiak elvben nem figyelhetnek meg amerikai állampolgárokat. Így elvileg nem kizárt, hogy ha az állam mégis amerikai földön nézne körül, a saját műholdjai odairányítása helyett kiskapuként egyszerűen kereskedelmi úton beszerezhetné a kívánt adatokat. Másrészről még szomorúbb a kép. Bármilyen megfigyelési technológiát is használnak, idővel felismerhetők leszünk. A korreláció alkalmazását és a megkülönböztetést az anonim adatok (pl. cookie) sem akadályozzák meg. Az anonimitás ugyanis törékeny: elég, ha kártyával fizetünk a neten és máris összekapcsolhatók az anonim nyomkövetési információk a nevünkkel.
Persze feltehetjük a filozófiai kérdést: biztosan rossz dolog az algoritmusokra támaszkodnia szabad akarat ellenében, ha azok jobban ismernek minket, mint mi saját magunkat? Ha a Google keresési találatai segíthetnek megjósolni a járványokat, a közlekedési szenzorokból begyűjtött adatok optimalizálhatják a közlekedést, és a modern adatfeldolgozó rendszerek sokkal több szempont alapján mérlegelhetnek,mint egy politikai döntéshozó testület,ugyan miért ne bízzunk inkább bennük?
A korábbiakban említett Shoshana Zuboff szerint azonban a helyzet nem ilyen egyszerű. A megfigyelőkapitalizmus máshogy teremt értéket, mint a hagyományos termelés. Mivel alapvetően big data adatforrásokkal és adatelemző rendszerekkel dolgoznak, a megfigyelőkapitalista vállalatok jóval kevesebb embert foglalkoztatnak, mint egy termékeket készítő cég: a General Motors a nagy gazdasági világválság idején jóval több embert foglalkoztatott, mint a Google és a Facebook a piaci kapitalizációjuk csúcsán. Azt pedig lehetetlen megmondani,hogy mekkora árat kell fizetnünk azért,hogy feláldozzuk a szabad választási lehetőség,az egyéni döntések és az autonómiajogát, és adatfolyammá váljunk. Zuboff szerint ez nemcsak antidemokratikus, hanem egyenesen zsarnoki rendszer, ami az embereken élősködik, de nem értük működik,és amit paradox módon személyre szabásnak nevezünk – holott éppen azt a személyességet tiporja sárba, aminek az egyén lenne az alapja.
Ez ellen csak úgy lehet hatékonyan tenni, ha az egész rendszert szabályozzuk. Szabályokat kell alkotni arra, hogy adataink milyen módon kombinálhatók más adatokkal, ahogy arra is, hogy ezeket az adatokat ténylegesen se lehessen a tudtunk és a beleegyezésünk nélkül adni-venni. Mindez persze csak egy társadalmi vita és annak eredményeként megszülető konszenzuseredménye lehet. Az ugyanis társadalmi kérdés, hogy mekkora befolyást engedünk a saját kormányunknak (na meg a magánvállalkozásoknak!) a személyes életünkre.
