Izdajalec na naših ramenih

Aplikacija je nenadoma vedela, kdo so sošolci na obletnici mature, ki vam delajo družbo v kadru, in da vas je na morju obiskala teta Fani. Ko so lani svet zajeli protesti, pa je prepoznava obrazov postala priročno orodje organov pregona, pa tudi nočna mora varuhov zasebnosti.

Človeštvo je tam konec osemnajstega stoletja ugotovilo, da so določene telesne značilnosti pri vsakem od nas unikatne. Da denimo na svetu ne obstajata dve osebi, ki bi imeli enak pristni odtis, pa čeprav sta se morda celo rodili kot enojajčna dvojčka. Kakih sto let pozneje so številne policije po svetu prstni odtis že s pridom uporabljale pri iskanju takšnih in drugačnih zlikovcev. 

Pomembneje je, da se je s tem rodil biometrični način razlikovanja posameznikov, torej iskanja načinov, kako dva človeka brez sence dvoma razločiti med sabo. Metodam so se pozneje pridružile še razpoznavanje vzorca šarenice, barve glasu, načina hoje, odtisa dlani in seveda značilnosti obraza. Nekatere načine danes tudi že doma s pridom uporabljamo – večina med nami svoje telefone in prenosnike že odklepa s pomočjo prstnega odtisa ali prepoznave obraza.

Nekoliko manj prijazno je, da so biometrijo brž začele izkoriščati različne, bolj ali manj prijazne oblasti po svetu. Prstni odtis smo že omenili, trenutno je aktualna prepoznava obrazov. Govorimo o samodejni prepoznavi, taki, ki nas zmore identificirati zgolj na podlagi fotografije, videoposnetka ali celo posnetka, ki teče v živo.

Porajajoča se tehnologija nedvomno ima svoje pozitivne plati, najprej pri lovu na kriminalce, pri lažji osebni identifikaciji ali pa pri iskanju pogrešanih oseb. Ima pa seveda za dobro vago tudi nekaj negativnih plati. Številne vlade z njim neupravičeno nadzorujejo državljane, spremljajo disidente, preprečujejo proteste in podobno. Poleg tega je prepoznava obrazov v primerjavi z uporabo prstnega odtisa za zdaj še precej bolj nezanesljiva, občasno pa tudi krivična.
 

Od zabave do streznitve

Pred kakima dvema letoma je postala popularna aplikacija FaceApp. Če ste vanjo naložili fotografijo, vam je z uporabo algoritmov obraz spremenila po želji, najbolj priljubljeno je bilo umetno postaranje, po želji pa smo si lahko zamenjali tudi spol ali nadeli brke in brado. Začetno evforijo so brž zavrla opozorila poznavalcev digitalne zasebnosti, zlasti glede tega, da aplikacija zahteva dostop do vseh fotografij v napravi. Morda še bolj to, da je ruskega izvora. Skratka, obstajala je možnost, da se za aplikacijo skriva projekt množičnega zbiranja fotografij obrazov za bazo, ki bi jo nato lahko ponudili … komurkoli. 

Panika je bila tedaj k sreči brez podlage, saj so avtorji zagotovili, da uporabljene fotografije brišejo sproti, kljub temu pa je bil to prvi primer, ko se je tudi širša javnost ovedla, da biometričnih podatkov, s katerimi odklenemo svoj telefon, potrdimo plačilo, morda celo odpremo vrata v službi, ni najbolj modro pošiljati vsenaokrog. Ter da obstajajo podjetja, denimo Facebook in Google, ki imajo zaradi naše zaupljivosti v svojih bazah že zbranih na milijarde fotografij obrazov. Te lahko, ker so pač zasebna, za dobičkom hlastajoča podjetja, kadarkoli prodajo kateremukoli interesentu. Še enkrat, vso to biometrično bogastvo smo tja naložili sami, medtem ko smo prešerno objavljali slike s počitnic, zabav in poslovnih dogodkov. 

K sreči smo se nato počasi ozavestili in tudi zato je moral Facebook prej omenjeno funkcionalnost samodejnega označevanja obrazov na fotografijah leta 2019 onemogočiti, razen če uporabnik zanjo ne da izrecnega soglasja.
 

Kako poteka?

Največja prednost samodejne prepoznave obrazov je zagotovo ta, da svoje delo opravlja, ne da bi se okolica, ki jo preverjamo, tega zavedala in da bi moral iskani posameznik pri tem kakorkoli sodelovati. Kot mora denimo pri jemanju prstnega odtisa. Sodobni sistemi, nameščeni na letališčih, športnih in kulturnih dogodkih, zmorejo iz množice obrazov poskakujočih glav izbrskati natanko tisto, ki jo iščemo.

Vsak obraz ima določeno število podrobnosti, po katerih se razlikuje od drugih. Teh, za prepoznavo najpomembnejših, t. i. nodalnih točk je osem, vseh skupaj pa še nekajkrat več. Programska oprema za prepoznavanje običajno meri le nekatere med njimi, denimo razmak med očmi in obrvmi, širino nosu, globino očesnih jamic, obliko ličnic in čeljusti ter še kaj. Vse te značilnosti program nato zgosti v unikatno kodo, nekakšen obrazni odtis, ki ga nato primerja z drugimi takimi odtisi obrazov, ki jih ima v svoji bazi. Zaradi dvodimenzionalnosti fotografij so se ti sistemi sprva večinoma naslanjali na tak način mapiranja obrazov. 

A ker ljudje v množici običajno ne gledajo v kamero pod idealnim kotom, pač pa pogosto od strani, od spodaj ali zgoraj, je tako prepoznavanje izgubilo precejšen del svoje učinkovitosti. Zato novejši sistemi naše obraze popišejo v treh dimenzijah, pri čemer se naslanjajo na krivine obraza, ki so podprte s kostjo ali tršim tkivom, te namreč pri odraslih brez kirurških posegov ostanejo nespremenjene vse življenje. Tak način zajemanja je manj dovzeten za napake pri slabi osvetlitvi obraza, pa tudi kadar nanj gledamo pod kotom, celo tako, da zna konture očesnih jamic, nosu ali čeljusti dovolj natančno prepoznati tudi iz profila. Seveda zna tak 3D-model prepoznave pri nadaljnjem primerjanju nato uporabiti tudi običajne, dvodimenzionalne posnetke.
 

Umetna inteligenca

Odločilen zagon področju je dala umetna inteligenca oz. njeno podpodročje strojnega učenja, ki se ukvarja z nevronskimi mrežami. Te so način, kako z uporabo zmogljivih računalnikov umetno inteligenco naučiti, da določene postopke izpelje vedno bolj dovršeno, saj se pri tem z delanjem napak in uveljavljanjem popravkov vedno znova uči in postaja boljša in boljša. Za tako učenje pa seveda potrebujemo veliko vhodnih podatkov s pravilno končno rešitvijo, umetna pamet pa postopke z ustreznimi popravki ponavlja toliko časa, da se na koncu nauči priti do pravilnega rezultat sama od sebe. Tudi potem, ko ji začnemo vnašati povsem nepreverjene vhodne podatke.

Seveda ni treba posebej pojasnjevati, da je uspeh prepoznave odvisen tudi od obsega baze, ki je na voljo. Policija se lahko pri tem naslanja na baze fotografij za osebne dokumente, pa na fotografije aretiranih posameznikov in ameriški FBI, ki ima dostop tudi do baz nekaterih zveznih držav, naj bi tako imel na razpolago kar okoli 650 milijonov fotografij. 
 

Težave

S tem, ko ljudem skeniramo obraze in jih shranjujemo v priročne baze, seveda upravičeno zbujamo strah, da bodo tako pridobljeni podatki nekoč zlorabljeni. Pa četudi ima podjetje, ki z njimi upravlja, najboljše namene in preteklost čisto kot solza, se še vedno pogosto dogajajo informacijski vdori, pri katerih storilci najraje odnesejo prav kritične osebne podatke, da bi jih nato prodali na temnem spletu.

Druga težava se nanaša na dosedanjo prakso, v kateri se je pogosto izkazalo, da prepoznava obrazov nikoli ni stoodstotno natančna, še huje, napake, ki jih počne, so vezane na nekatere osebne okoliščine, glede katerih ustave in zakoni ne dovoljujejo razlikovanja pri obravnavi.

Javno objavljeni preizkusi zadnjih let so tako jasno pokazali, da algoritmi pogosteje zgrešijo, ko gre za ženski spol in pripadnike ras temnejše polti. V ameriški organizaciji Civil Liberties Union (ACLU) so se pred dvema letoma odločili preizkusiti Amazonov Rekognition, oblačno storitev za prepoznavo obrazov, ki jo za nekaj dolarjev mesečno lahko najame kdorkoli. Raziskovalci so nato sestavili bazo 25.000 javno objavljenih fotografij, ki jih ob aretaciji napravi policija. Te so nato primerjali s fotografijami članov ameriškega senata in kongresa. Rezultati so bili osupljivi.

Rekognition je našel in povezal 28 fotografij, čeprav na t. i. mugshotih v resnici ni bilo nikogar od predstavnikov ameriškega ljudstva. Približno 40 odstotkov teh napačnih zadetkov je bilo povezanih s temnopoltimi poslanci, čeprav njihov delež v obeh domovih znaša komaj kako petino. In čeprav so pri Amazonu natančnost algoritma odtlej še precej izboljšali, slab priokus ostaja. Saj si lahko predstavljate, da vas na domu nenadoma obišče policija, češ da ste pred dnevi oropali bencinsko črpalko? No, Amazon je po lanskih protestih za pravice temnopoltih v ZDA za leto dni omejil uporabo svojega Rekognitiona, ko gre za policijo in druge pripadnike organov pregona.

Zadnji problem za uporabnike takih metod pa je vedno strožja zakonodaja, ki ureja našo zasebnost. Skeniranje obrazov in njihovo hranjenje v bazah vsekakor je zbiranje občutljivih osebnih podatkov. Zato so baze takih podatkov poseben ter v pravnem in zakonodajnem pogledu še ne docela rešen problem.
 

Clearview

Zlasti, ker ni trajalo dolgo, da je nekdo prišel na idejo, da za bazo fotografij vzame kar družbena omrežja in druge dele javno dostopnega spleta. To je leta 2017 kot poslovna ideja prišlo na pamet komaj tridesetletnemu Hoan Ton-Thatu, ki je tedaj v ZDA kot sveži priseljenec ustanovil podjetje Clearview. V njem so razvili istoimensko aplikacijo, ki je s spleta zbrskala osupljive tri milijarde fotografij, te pa seveda zna razvrščati z lastnim algoritmom. Sprva so tuhtali, da bi jo prodajali staršem, za preverjanje varušk, preden jih najamejo, nato pa so svoje zadovoljne stranke našli pri policiji, pravzaprav pri policijah. Ko je ameriški časnik New York Times spomladi 2019 razkril aplikacijo in njeno ozadje, jo je uporabljalo že več kot 600 takih in drugačnih organov pregona po svetu. Med strankami se je tedaj omenjala tudi Slovenija, a so predstavniki Policije to ostro zanikali. Clearview AI se po nekaterih dostopnih podatkih uspešno odreže, torej prepozna iskano osebo, v kar treh četrtinah poizvedb, so pa te skoraj srhljivo, 99-odstotno natančne, kar pomeni, da lažnih zadetkov skorajda ni.

Za zdaj se lahko tolažimo, da orodje ni na voljo zasebnikom in da se je po razkritju odzvala tudi zakonodaja tistih bolj zasebnostno ozaveščenih držav in uporabo orodja Clearview prepovedala. Tiste druge, ki jim človekove pravice in svoboščine pomenijo zgolj coklo pri ustvarjanju domnevnega reda, pa so priložnost za bolj učinkovito delo pograbile z obema rokama. Govorimo o Kitajski, Kostariki, Iranu pa tudi določenih delih ZDA. Tam so predstavniki policije in tožilstva na lanskih protestih gibanja Črna življenja štejejo pa tudi po nedavnem vdoru v Kapitol priznali, da uporabljajo tudi samodejne prepoznave obrazov, številne tamkajšnje policije in agencije so tudi stranke Clearviewa. 

Je pa po vsem tem prišlo tudi do nekaterih pozitivnih premikov. Ob že omenjenem Amazonu so še nekatera druga velika podjetja, kot so IBM, Google in Microsoft, na pritisk delničarjev in zaposlenih vladnim agencijam zaradi sporne uporabe prenehala ponujati orodja za prepoznavo obrazov. Širi pa se tudi seznam ameriških mest, ki so tehnologijo preprosto prepovedala. 
 

Pred lastnim pragom

Saj res, kako pa je s praktično rabo prepoznave obrazov pri nas? Po besedah predstavnikov organizacije Comparitech, ki vzdržuje nekakšno globalno lestvico, smo nekje na sredini. Imamo biometrične dokumente, naša policija naj bi imela za samodejno prepoznavo že desetletje na voljo lastno orodje FaceTrace. Slednje zna brskati po vseh tistih slikah, ki smo jih dali na svoje dokumente, policija pa naj bi ga uporabljala le za primerjavo s policijskimi skicami, t. i. fotoroboti, ne pa tudi pri iskanju konkretnih oseb na fotografijah. Načeloma je samodejna prepoznava obrazov, za razliko od »ročne«, pri nas prepovedana. 

Bolj pomenljivo je, da je z novim letom začel veljati Zakon o varstvu osebnih podatkov na področju kaznivih dejanj, ki je precej potihem dal policiji možnost, da pri obdelavi uporabi tudi tiste podatke, ki jih je posameznik javno objavil. Torej vse, kar kot javno obešamo na Facebook, Twitter, Instragram in drugam. Ko so nazadnje kaznovali protestnike, ki so v Trbovljah zahtevali vrnitev v šolske klopi, so kazni pisali na podlagi fotografij, objavljenih na družbenih omrežjih.

Predstavniki policije so zagotovili, da pri tem niso uporabljali biometričnih metod, pač pa bi njihov opis delovanja lahko povzeli kot nekakšno peš prečesavanje objavljenih podatkov. To v resnici je možno in verjetno, saj smo majhna država, z majhnimi kraji, kjer posameznika ni težko prepoznati.

Kako bo v bodoče, pa se bo razpletalo prav v naslednjih mesecih. Evropska unija bo svoje načrte v zvezi s samodejno prepoznavo obrazov namreč objavila letos spomladi. 
 

Članek je bil objavljen v reviji Gea

Gea spodbuja dejaven življenjski slog in vseživljenjsko radovednost ter navdušuje z aktualnimi raznolikimi temami o dogajanju okrog nas.

Več o reviji Gea >