Artificial intelligence has recently been intensively pushing the boundaries of human civilization and technological development. As a technological achievement, it imperceptibly "sneaked" into the life of every individual and became an integral part of all spheres of social life. In the application of artificial intelligence today, it seems that we cannot shake the impression that what at one point seemed possible in 100 years, has in fact become a reality in the last 10 or so years. The need for legal regulation and legal regulation of the use of artificial intelligence arises as an important issue for its future development for the benefit of the human community and the entire humanity. This research is part of a broader picture of the potential use of artificial intelligence in certain branches of law, aimed at looking at the special "interregnum" between the established practice of using artificial intelligence and its legal regulation. In the work, we focus in particular on the analysis and research of the use of artificial intelligence systems in the field of law enforcement. More precisely, we will shed light on the regulatory process related to artificial intelligence in the EU and point out the specifics of its use for security and police purposes, primarily by establishing restrictions for the benefit of the public and citizens, by categorizing the use of certain artificial intelligence systems as prohibited and high-risk. These are artificial intelligence systems that use prediction techniques, biometric surveillance, i.e. face recognition and derived biometric data. Their impact on human rights is the subject of special in-depth research outside this framework, bearing in mind that the uncontrolled use of these techniques as part of the artificial intelligence system today can be equated with the consequences of dropping an "atomic bomb" on human freedoms and rights.Apart from the regulatory process within the EU, we also point out the potential use of artificial intelligence in Serbia by law enforcement services through the analysis of the legal framework of the Republic of Serbia.

Uvod

Veštačka inteligencija je tehnološko dostignuće čija primena u svim oblastima ljudskog delovanja postaje neizbežna, kako globalno, tako regionalno i lokalno. Time na scenu stupa ,,trka“ za pravnu regulucaju i zakonsko uređenje korišćenja veštačke intiligencije kao ključno pitanje za njen budući razvoj u korist ljudske zajednice i celokupnog čovečanstva. Debate o potrebi, načinu i metodama pravne regulacije se odvijaju na raznim nivoima od međunarodnog, preko regionalnih organizacija i nacionlanog nivoa do privatnog sektora i tehnoloških giganata koji već čine dostupnim pojedine oblike veštačke inteligencije svim građanima na dnevnom nivou. Pravna regulacija se pre svega odnosi na razne aspekte primene veštačke inteligencije i može se posmatrati i kao uspostavljanje ,,pravne infrastrukture“ za njeno korišćenje, upotrebu, razvoj i monitoring u svim oblastima društvenog života.

Ovim radom autor istražuje pravnu regulaciju i potencijalnu upotrebu veštačke inteligencije u osetljivoj oblasti prava, usmeravajući se na sagledavanje već uspostavljene prakse za korišćenje veštačke inteligencije u sprovođenju zakona. Tačnije, osvetlićemo regulatorni proces vezan za veštačku inteligenciju u EU i fokusirati se na upotrebu veštačke inteligencije u bezbednosne i policijske svrhe, ukazujići na ograničenja uspostavljena u korist javnosti i građana koja se nameću službama za sprovođenje zakona kategorizacijom određenih postupanja kao zabranjena i visokorizična. Polazimo od pravne infrastrukture za veštačku inteligenciju koja se uspostavlja predloženom Uredbom EU o utvrđivanju usklađenih pravila o veštačkoj inteligenciji koja se često naziva i Zakon o veštačkoj inteliginciji ili Akt o veštačkoj inteliginciji.

Bezbednost i policijsko postupanje treba da obezbede ambijent, siguran i lišen bilo kog straha po svakog pojedinca, u kom su ljudska prava i osnovne slobode zaštićeni od maliciozne upotrebe veštačke inteligencije, imajući u vidu da službe za sprovođenje zakona poseduju sistemska, diskreciona i javna ovlašćenja sa visokim stepenom rizika za potencijalnu zloupotrebu veštačke intiligencije. Veliki broj istraživanja na globalnom nivou ukazuje na opasnosti po ljudska prava i osnovne slobode u slučaju primene veštačke inteligenscije u bezbednosne svrhe, posebno u slučajevima biometriskog prepoznavanja i otkrivanja nepoželjnog ponašanja pojedinaca. Osim regulatornog procesa unutar EU, sagledavamo i upotrebu veštačke inteligenciju u ovoj oblasti u Srbiji kroz analizu pravnog okvira odnosno Stratigije Republike Srbije i drugih nacionalnih akata mekog prava o veštačkoj inteliginciji (u daljem tekstu: VI).

Uspostavljanje pravne infrastrukture i definisanje zabranjenih i visokorizičnih sistema VI

Pravna infrastruktura je termin koji se koristi u novijim istraživanjima i označava uspostavljanje pravog okvira i regulacija određene oblasti društvenog ponašanja odnosno normiranje i donošenje pravnih akata kao osnova uređenja i stvaranja uslova za dalji razvoj te oblasti. Infrastrukture u običnom govoru se odnose na fizičke ili organizacione aspekte sveta koji su društvima potrebni da bi funkcionisala. Metafora prava kao infrastrukture nastaje u spajanju odnosno ozbiljnog shvatanja prava kao društveno-materijalni oblik, s jedne strane ostvaren kroz društveno delovanje, ali s druge značajno preoblikujući svet oko nas (Byrne, Gammeltoft-Hansen, 2023). Ovaj termin je odvojen i ne treba ga mešati sa stvarnom elektonskom, digitalnom i informatičkom infrastrukturom kao materijalnom bazom razvoja VI. Pravna infrastuktura u konkretnom slučaju naglašava značaj pravne regulacije i razumevanja neophodnosti za normativno uređenje korišćenja VI posebno ako potrebu, način i metode pravne regulacije shvatimo kao ,,uslov nad uslovima“ za funkcionisanje društva odnosno, kao infrastrukturnu pripremu i radove na definisanju ogromne oblasti koja organizacijski zahteva uspostavljanje savremenog pravnog ,,auto puta sa velikim dozvoljenim brzinama“. Bezbednost i sprečavanje rizka od ugrožavanja ljudskih života nameće i definisanje striktnih ,,ograničenja brzine i pojedinih obaveznih pravaca kretanja“ koji su istinski neophodni kako se razvoj i upotreba VI ne bi pretvorile u haos, pretnju i ugrožavanju opstanka čovečanstva. Balans između mogućnosti daljeg brzog razvoja VI u korist svakog pojedinaca i maksimalnog smanjenja rizika od nekontrolisanog ,,kretanja ili iskakanja“, danas znači omogućiti, podstaći i usmeriti njen dalji budući razvoj u oblastima ekonomije, medicine, javnog zdravlja, ekologije, proizvozvodnje hrane, snabdevanja, energetike itd. Željom da veštačka inteligencija potpuno poboljša način na koji ljudi razmišljaju, stvaraju i kreću se u stvarnom svetu, govori i o izgradnja jednog budućeg „naučnog auto puta sa mnoštvom traka“( Prlja et al.,2021:96).

Uspostavljanje pravne infrasrukture za VI, odnosno pripremni radovi za njeno definisanje, se ubrzano odvijaju u međunarodnim organizacijama kao i unutar formalnih i neformalnih skupova i koalicija država. Na primer, preispitivanja etičkih dilema korišćenja VI i smernice Ujedinjenih nacija su dati u Uneskovom vodiču (UNESCO, 2022 ), dok su prve smernice za upotrebu VI u sprovođenju zakona predstavljene od strane Interpola i Međuregionalnog instituta za istraživanje kriminala i pravde UN (Interpol&UNICRI, 2019). Regionalne organizacije, pre svega Savet Evrope i Organinizacija za ekonomsku saradnju i razvoj - OECD su uvojile preporuke (OECD, 2022) oko modaliteta, načina i stepena obuhvata korišćenja VI i sa državama članicama pripremaju konvencije (Council of Europe, 2023) ili vodiče za upotrebu VI u različitim sferama društvenog života. Države su takođe uključene u nacionalno definisanje okvira za primenu VI u čemu prednjače SAD (White House Office of Science and Technology Policy, 2022) i Kina The China Academy of Information and Communications Technology, 2022), a u međunarodnim okvirima je otpočelo grupisanje i održavanje samita država koje podstiću inovacije u oblasti VI i zakonski ili kroz nacionalne strategije regulišu razvoj VI. U sve to je uključen privatni sektor i tehnološki giganati od kojih većina nije oduševljena nametanjem međunarodnog i nacionalnog okvira regulacije, imajući u vidu da su već učinile dostupnim pojedine oblike veštačke inteligencije svim građanima na dnevnom nivou. Ne mali doprinos kako razvoju VI tako i celokupnom postupku pravne regulacije daje i akademska zajednica u okviru koje postoje istraživački instituti kao što je Institut za VI usmerenu na čoveka Univeziteta Stenford koji vodi sveukupni godišnji globalni indeks razvoja, napredka i pravne regulacije VI (Maslej, at al., 2024).

U ovakvoj globalnoj konstelaciji, od svih pokušaja uspostavljanja pravne infrastrukture za koriščenje VI najdalje je otišla EU u okviru koje je u završnoj fazi zakonodovni postupak za usvajanje Uredbe o VI (COM/2021/ 206, u daljem tekstu: Uredba o VI ili Uredba). Naime, Evropski parlament je u okviru redovne zakonodavne procedure usvojio Zakonodavnu rezoluciju (Evropski Parlament, 2024) i čeka se potvrda i njeno usvajanje u Savetu EU. Dogovor institucija EU o ovom aktu je postignut krajem 2023 godine i u prvim reakcijama na vest o usvajanju regulative ističe se da interes građana ipak nije stavljen na prvo mesto i da su uveden dvostrukih standardi za policiju i službe bezbednosti, sa dovoljno mogućnosti za kršenje ljudskih prava (Share Fondacija, 2024). Ipak, nisu beznačajne izmene izvršene u poslednjem trenutku uvođenjem obavezne procene uticaja na osnovna prava za visokorizične sisteme VI, obavezujući one koji ih koriste da procene i ublaže predvidive uticaje na osnovna prava onih koji su pogođeni, posebno marginalizovanih i ranjivih grupa. To se odnosi i na uvođenje prava pojedinaca da podnose žalbe nadležnim organima u vezi sa mogućim kršenjem Uredbe o VI (Friedl, Gasiola, 2024.).

Uredba daje definiciju samih sistema VI kao ,,mašinski sistem dizajniran za rad na različitim nivoima autonomije, koji nakon uvođenja može pokazati prilagodljivost i koji, za eksplicitne ili implicitne ciljeve, iz ulaznih vrednosti koje prima, zaključuje kako generisati izlazne vrednosti kao što su predviđanja, sadržaj, preporuke ili odluke koji mogu uticati na fizička ili virtualna okruženja“ (član 3, tačka 1 Uredbe). U Uredbi je istaknut pristup razvoja i upotrebe VI zasnovan na riziku a sami sistemi VI su kategorisani u različite klase i podležu različitim pravilima u skladu sa stepenom rizika koji se pretpostavlja da predstavlja po pojedince i društvo u celini. Uredba o VI postavlja različita ograničenja za sisteme VI koji bi mogli da se koriste u oblasti sprovođenja zakona. Sistemi za koje se smatra da predstavljaju „neprihvatljiv rizik“, kao što su takozvani sistemi

„socijalnog bodovanja“ ili određene vrste biometrijskog nadzora, zabranjeni su u potpunosti (čl. 5 Uredbe). Najveći broj sistema VI koje se koriste od službi za sprovođenje zakona u bezbednosne i policijske svrhe je smešten u neprihvatljivu, odnosno zabranjenu ili strogo kontrolisanu, visokorizičnu praksu. Zabranjenu praksu korišćenja sistema VI čine: manipulativne ili obmanjujuće tehnike, iskorištavanje bilo koje slabosti pojedinaca ili određenih grupa, evaluacija ili klasifikacija fizičkih lica ili grupe lica u određenom periodu na osnovu njihovog društvenog ponašanja, procena ili predviđanje verovatnoće da će fizičko lice počiniti krivično delo isključivo na osnovu izrade profila fizičkog lica ili procene negovih osobina i obeležja ličnosti, baze podataka za prepoznavanje lica neciljanim prikupljanjem fotografija lica s interneta ili snimaka CCTV-a, izvođenje zaključaka o emocijama fizičkog lica na radnom mestu i u obrazovnim ustanovama, biometrijska kategorizaciju u kojima se fizička lica pojedinačno kategorizuju na osnovu biometrijskih podataka o njihovoj rasi, političkim mišljenjima, članstvu u sindikatu, verskim ili filozofskim uverenjima, seksualnoj orijentaciji kao i biometrijska identifikacija pojedinaca u realnom vremenom. Daljinska biometrijska identifikacija u realnom vremenu može se koristiti samo ako je njena upotreba vremenski i geografski ograničena i ako je prethodno data posebna sudska ili administrativna dozvola. Uredbom su definisana tri izuzetka za daljinsku biometrijsku identifikaciju u svrhu krivičnog gonjenja za krivična dela koja sadrže visok stepen društvene opasnosti i to: 1) ciljane potrage za konkretnim žrtvama otmice, trgovine ljudima ili seksualnog iskorištavanja ljudi, kao i potrage za nestalim osobama; 2) sprečavanja konkretne, značajne i neposredne pretnje životu ili telesnoj bezbednosti fizičkih lica ili stvarne i prisutne ili stvarne i predvidljive pretnje od terorističkog napada; i 3) lociranja ili identifikacije lica osumnjičenog za izvršenje krivičnog dela u svrhu vođenja krivične istrage, progona ili izvršenja krivične sankcije za krivična dela nabrojana u Prilogu 2 a koja su državama članicama kažnjiva kaznom zatvora ili merom oduzimanja slobode u maksimalnom trajanju od najmanje četiri godine (član 5, stav 1, tačka h Uredbe).

Visokorizična praksa ili kategorizacija sistema VI na visokorizične obuhvata ispunjenje strogih zahteva za njihovu upotrebu uvođenjem dopunskih pravila regulacije i kontrole. Razlika između neprihvatljivih ili zabranjenih sistema VI i visokorizičnih je u tome što se drugi ne smatraju tolikio opasnim, odnosno ne predstavljaju toliko visok stepen rizika po ljudska prava da ih je neophodno zabraniti. Tu se u najvećem broju nalaze sistemi VI koji se koriste u sprovođenju zakona odnosno, oblasti policije, sudstva i kritične infrastrukture (Prilogu 3 Uredbe).

Zabranjena i visokorizična praksa upotrebe VI u sprovođenju zakona oslanja se pre svega na razvoj i primenu određenih komponenata VI vezane za obradu velike količine podataka, algoritme i naprednu kompjutersku tehnologiju. Ove komponente su ranije podsticane radi promene, primene i preispitivanja tehnika pametnog nadzora, profilisanja, upotreba velikog broja podataka i što šire digitalizacije javnog sektora (Fuster, 2020:21). Generalno, VI se povezuje i klasifikuje po unapređenim grupisanjem algoritama koji se koriste za razvoj tehnologije, prema teorijskim konceptima koji stoje iza njih a koji su prvenstveno nastali u matematici, logici, filozofiji i teoriji informacija (Samoili, 2021:11). Postoje razne teorije koje ističu subjektivnost ljudske percepcije iz perspektive prava,  za  to  šta  je  autonomno  i  inteligentno  u  računskim  procedurama ukazivanjem na jednostranost u upotrebi termina koji će se menjati u budućnosti. Naime, ono sto je tokom 80 godina prošlog veka spadalo u te kategorije danas nije ni inteligentno ni autonomno. Zato se Kodagnoneu (Codagnone) VI kao pojam čini neprikladnim za regulaciju zakonskim i podzakonskim aktima, već bi legislativno trebalo urediti algoritame koji su u osnovi sistema VI. Shodno tome, pravni akti koji su već donešeni i uređuju algoritamske procese i donošenje odluka u različitim scenarijima i sa različitim svrhama su povezani sa izgradnjom i sastavni su deo regulatornog okvira za VI u EU (Codagnone et al., 2022:46). Algoritmi su naime, moćni artefakti koji deluju unutar našeg informacionog miljea, vršeći strukturiranje naših podataka, profilisanje, kategorizaciju, i predviđanje ko smo, šta smo, šta želimo, pa i više od toga (Hayes et al., 2020).

Izazovi upotrebe sistema VI u sprovođenju zakona sa aspekta predvidjanja i upotrebe posebnih biometrijskih tehnika

Upotreba algoritama u oblasti policijskog postupanja i bezbednosti, je posebno osetljivo pitanje sa velikim potencijalom za unapređenje mera i postupaka u sprovođenju zakona, ali i sa ogromnim rizikom za nanošenje štete i kršenje ljudskih prava (Hayes et al., 2020:1). Jedna od prvih tehnika korišćnja algoritama u oblasti bezbednosti, tančije u policijskom postupanju a koja predhodi upotrebi sistema VI je policijsko predviđanje (inaće zabranjeno članom 5, tačka d. Uredbe). Policijsko predviđanje je algoritamska obrada skupova podataka koja otkriva obrazce verovatnih budućih krivičnih dela i ugrožavanja radi njihovog sprečavanja pre samog izvršenja. Ono može da se podeli u četiri šire kategorije kao što su: 1) metodi za predviđanje krivičnih dela ili mesta i vremenski periodi u koje postoji povećani rizik od pojave kriminalnih aktivnosti; 2) metodi predviđanja i otkrivanje mogućih učinilaca krivičnih dela; 3) metodi predviđanja identiteta učinilaca ili kreiranje profila sličnim učiniocima krivičnih dela u prošlosti; i 4) predviđanje žrtava krivičnih dela odnosno identifikovanje grupa i individua za koje postoji verovatnoča da će postati žrtve krivičnog dela (Perry et al., 2013:xiv). Policijsko predviđanje kao nova tehnika za sprečavanje kriminala se pojavljuje u SAD krajem 20. veka, kada se u policijskim upravama pojednih velikih gradova angažuju profesionalni analitičari kriminala koji eksperimentišu sa obradom velikog broja podataka i korišćenjem novih tehnologija, pokušavajući da predvide događaje, tačnije, vreme, mesto i sama krivična dela koja će biti učinjena kao i potencijalne učinioce. Kasnije je u Velikoj Britaniji razvijen poseban model policijskog predviđanja pod nazivom Matriks nasilja bandi (Gang Violence Matrix) koji je policija Londona počela da koristi 2012 godine. Ovaj model je služio za identifikovanje i procenu rizika članova bandi uključenih u nasilju kao i dentifikaciju ranjivih grupa odnosno onih ka kojima je nasilje usmereno. U drugim državama clanicama EU pojavljuje se u sprovođenju zakona u oblasti pranja novca i finansiranja terorizma, kada su na nivou EU bankama i drugim pravnim licima nametnute obaveze preduzmanja odgovarajućih korake za identifikaciju faktora rizika za procenu izvršenja pomenutih krivičnih dela (Fuster, 2020:23).

Prepoznavanje lica je biometrijska tehnika u rapidnom razvoju, koja je u Uredbi uvrščena u dve kategorije, odnosno pominje se kao zabranjena odnosno visokorizična praksa korišćenja VI u oblasti sprovođenja zakona. Tehnologija prepoznavanja lica kao deo sistema VI omogućava automatsku identifikaciju ili potvrdu autentičnosti pojedinca putem upoređivanja i potvrđivanja crta lica sa dve ili više digitalnih slika (EU FRA, 2019:2). To je proces kojim AI softver može da identifikuje ili prepozna osobu koristeći njene biometrijske crte lica izvučene sa fotografije ili video snimka (Gikay, 2023:417). Iako je prepoznavanje lica tehnologija koja postoji već nekoliko decenija, tehnički napredak u poslednjih nekoliko godina je ogroman. Neki od današnjih algoritama za prepoznavanje lica sa najboljim performansama imaju skoro 100% uspeha na izazovnim skupovima podataka. Nacionalni institut za standarde i tehnologiju SAD (National Institute of Standards and Technology (NIST)) je napravio test za prepoznavanja lica (Face Recognition Vendor Test (FRVT)) mereći napredak u prepoznavanju lica i koliko dobro algoritmi izvršavaju različite zadatke vezane za bezbednost i sprovođenja zakona, a odnose se konkretno na prepoznavanje lica sa fotoreporterskih slika, u svrhu identifikacije žrtve trgovine decom, otkrivanja falsifikovanih pasoša i unakrsne provere slike izdate vize. Napredak algoritma u prepoznavanju lica se meri prema lažnoj stopi nepodudaranja ili stopi greške koja predstavlja učestalost sa kojom algoritam ne uspeva da uskladi sliku sa stvarnom osobom. U 2017. najuspešnija prepoznavanja lica su imali stope greške od preko 50,0% dok od 2021. nije registovana stopa greške veća od 3,0%. Model sa najboljim učinkom u svim skupovima podataka u 2021 (fotografije vize) registrovao je stopu greške od 0,1%, što znači da za svakih 1000 lica, model je tačno identifikovao 999. Posebno zabrinjavajuća je upotreba ove tehnologije putem sistema VI, odnosno prepoznavanje lica i detekcija pojedinaca uživo u realnom vremenu. Softver VI upoređuje, u realnom vremenu, biometrijske slike lica snimljene kamerom sa postojećim šablonima osumnjičenog lica u bazi podataka. Stepen rasprostranjenosti upotrebe sistema prepoznavanja lica je indikativan imajući u vidu da u SAD danas, 18 od 24 vladinih agencija za sprovođenje zakona već koriste neku vrstu tehnologije za prepoznavanje lica (Zhang et al., 2022:62). Izvestaji iz SAD još od 2016 ukazuju na rasprostranjenu upotrebu prepoznavanja lica uživo, upozoravajući da je tada nekoliko velikih policijskih uprava aktivno istraživalo prepoznavanje lica u realnom vremenu na video snimcima kamere za nadzor uživo. Od tada je sve česče izričito pozivanje na donošenje zakona koji bi regulisao upotrebu prepoznavanja lica od strane organa za sprovođenje zakona, upozorenjem da je ,,prepoznavanje lica previše moćno da bi ostalo tajno“ i pravno nedefinisano (Garvie et al., 2016).

Sa druge strane Vlada Velike Britanije pozvala je policiju da proširi upotrebu tehnologija baziranih na VI i pored činjenice da ovakvi sistemi ugrožavaju građanske slobode. U jednoj britanskoj nacionalnoj anketi iz 2019., 70% ispitanika je istaklo da policiji treba dozvoliti da koristi prepoznavanje lica u krivičnim istragama, a 71% je podržalo njegovu upotrebu na javnim prostorima, ako pomaže u smanjenju kriminala. Ilusrativan je primer akcije sprečavanja krađa i nasilja u maloprodajnim objektima u Londonu 2023. godine, u kojoj je Metropoliten policija koristila prepoznavanje lica za identifikaciju 149 osumnjičenih za maloprodajne zločine upoređivanjem stotine CCTV fotografija (Gikay, 2023). Trenutno su dostupne samo ograničene informacije o mogućoj upotrebi tehnologija prepoznavanja lica u državama članicama EU. U Nemačkoj je Hamburška policija koristila tehnologije za prepoznavanje lica demonstranata koji su izazvali nerede zbog Samita G20 u julu 2017. dok je 2018. sprovedeno testiranje mogućnosti upotrebe ovih sistema na železničkoj stanici u Berlinu (Engel, 2024). Policija u Nici (Francuska) sprovela je test korišćenja tehnologije za prepoznavanje lica uživo na karnevalu 2018. Žandarmerija u Francuskoj koristi tehnologije za prepoznavanje lica za krivične istrage, ali ne koristi tehnologije prepoznavanja lica uživo, zbog nepostojanja pravnog osnova. Austrijske vlasti su kupile softver za prepoznavanje lica 2019. za pretraživanje baze podataka kako bi se identifikovali nepoznati počinioci krivičnih dela čije su slike dostupne sa CCTV-a kamera ili drugih izvora. U Holandiji su takođe počela testiranja za upotrebu tehnologije prepoznavanja lica (EU FRA, 2019:6). Neke studije ukazuju i na buduću upotrebu 3D tehnologije za prepoznavanje lica i to u oblasti kontrole spoljnih granica Unije od strane Fronteksa. Dok se trenutne tehnologije za prepoznavanje lica oslanjaju na „ravnu“ fotografiju lica pojedinca, 3D prepoznavanje lica koristi trodimenzionalne karakteristike ljudskog lica za automatsko prepoznavanje i uparivanje. Kada se stekne 3D geometrija ljudskog lica, onda se izdvajaju značajne karakteristike sa površine lica. To omogućava veću preciznost od klasičnog dvodimenzonalnog prepoznavanja lica (Statewatch, 2023:37).

Suštinski prepoznavanje lica predstavlja samo jedan mozaik šireg korisćenja biometrije u bezbednosne svrhe. Postoje biometrijske tehnike koje uključuju biometrijsku identifikaciju, biometrijsku kategorizaciju, detekciju ponašanja, prepoznavanje emocija, interfejsi mozga i računara i druge slične tehnike koje imaju širok spektar namena. Termin „biometrijske tehnike“ treba shvatiti tako da uključuju bilo koju tehnologiju ili operaciju koja se:1) oslanja na specifičnu tehničku obradu podataka koji se odnose na fizičke, fiziološke aspekte ili aspekte ponašanja ljudskog tela (uključujući i kada je u pokretu); i 2) za svrhe kao što su autentifikacija ili identifikacija ljudskih individua, kategorizacija ljudskih individua prema trajnim ili dugoročnim karakteristikama (uključujući u cilju predviđanja budućeg ponašanja) ili otkrivanje privremenih ili trajnih stanja ljudske individue (kao što je strah , umor, ili bolest, ili određena namera). Napominje se međutim sve veća upotreba „slabe“ i „meke“ biometrije zajedno sa „jakom“ biometrijom, fokusirajući se na niz obrazaca različitih vrsta ponašanja, i razvoj ka multimodalnoj biometriji. Zajedno sa poboljšanim senzorskim i računarskim mogućnostima, kao i poboljšanom vezom, ovo utire put za masovno uvođenje biometrijskih tehnologija u širok spektar sektora i za širok spektar namena, čak daleko izvan sprovođenja zakona i graničnih kontrola, pretvarajući biometrijske tehnologije u nešto poput univerzalnih tehnologija. (Wendehorst, Duler, 2021:1).

Druga istraživanja nalaze da se radi o mnoštvu tehnologija prepoznavanja lica kao specifičan tip biometrijskih tehnologija koje se koriste u različite svrhe, u rasponu od jednostavnog otkrivanja prisustva lica na slici, do složenijih verifikacija, identifikacija i kategorizacija ili klasifikacija pojedinaca. Verifikacija (poređenje jedan na jedan) omogućava poređenje dva biometrijska šablona, za koje se obično pretpostavlja da pripadaju istoj osobi. Identifikacija (poređenje jedan prema više) znači da se šablon slike lica osobe upoređuje sa drugim šablonima uskladištenim u bazi podataka kako bi se otkrilo da li je njihova slika tamo uskladištena. Prepoznavanje lica se takođe koristi za vršenje kategorizacije (ili klasifikacije) pojedinaca, na osnovu njihovih ličnih karakteristika. U tom smislu, razvijen je širok spektar softvera za procenu atributa osobe sa njenog lica, u svrhu

„klasifikacije atributa lica“ (npr. pol, rasa ili etnička pripadnost) ili za „procenu atributa lica“ (npr. godine). Štaviše, prepoznavanja lica se može koristiti za klasifikaciju izraza lica (kao što je osmeh) ili emocionalnog stanja osobe kao što je srećan, tužan ili ljut (Madiega, Mildebrath, 2021:1).

Slika 1. Prepoznavanje emocija u realnom vremenu.

Izvor: Article 19. https://www.article19.org/resources/eu-emotion-misrecognition/

Ovo poslednje je istraživano na spoljnim granicama EU, tačnije na pojedinim graničnim prelazima Grčke, Mađarske i Letonije u okviru projekta Horizont 2020, pod nazivom Integrisani prenosni sistem kontrole (iBorderCtrl) koji integriše prepoznavanje lica i druge tehnologije za otkrivanje da li pojedinac govori istinu. Ispitivani su i identifikovani tzv. „biomarkeri prevareˮ, neverbalni mikroizrazi povezivani sa laganjem kao što su treptanje levog oka, pojačano crvenilo lica, pravci kretanja glave itd. (Sánchez-Monedero, Dencik, 2022). Radi se u stvari o nepreglednom nizu varijacija u korišćenju biometrijskih tehnika, identifikatora i preko njih biometrijski izvedenih podataka. Biometijski izvedeni podaci su zbir skupova podataka koji su rezultat informacija dobijenih iz bihevioralnih, fizičkih i psiholoških biometrijskih tehnika identifikacije i drugih neverbalnih metoda komunikacije.

Slika 2. Biometrijski izvedeni podaci dobijeni na osnovu analize pogleda.

Izvor XRSI: https://xrsi.org/wp-content/uploads/2020/09/illustrations XRSI privacy framework_20200906_DEF-7-1-1536x1277.png

Ovi izvedeni podaci se dobijaju od glavnih biometrijskih tehnika identifikacije odnosno ,,jakih“ biometrijskih identifikatora kao što su: prepoznavanje lica, daktiloskopski podaci (provera otisaka prsta), skeniranje šarenice, analiza mrežnjače; prepoznavanje glasa i prepoznavanje oblika uha. Tu su uključeni i analiza tastera, analiza vlastitog potpisa, analiza hoda, analiza pogleda (praćenje očiju) (XRSI, 2024). Za jedinstvenu identifikaciju fizičkih lica, „jake“ biometrijske identifikatore treba uhvatiti, transformisati u digitalne podatke i na kraju u standardizovani u šablon (Wendehorst, Duler, 2021b). Na kraju moramo da pomenemo i ,,otisak ljudskg pokreta“ kao jedan od biometrijski jakih identifikatora. Otisak ljudskog pokreta može takođe biti idealan za predviđanje aktivnosti, kriminala i bolesti pa samim tim i deo policijskog predviđanja i bezbednosti. Prema pioniru VI Luisu Rozenbergu, postoje stvarne opasnosti ,,da će sistemi moći da vas identifikuju bez vašeg pristanka i učešća bez uopšte i da znate da ste bili meta identifikacije“. Otisak pokreta za razliku od tehnike prepoznavanja lica može omogućiti identifikaciju otpozadi, bez da se uopšte vidi lice osobe (Kremidas-Courtney, Linderstal, 2023).

Sve opisane biometrijske tehnike su močan alat za službe bezbednosti što dramatično komplikuje već dovoljno polarizovane strane koje se zalažu za više bezbednosti ili više prava i sloboda građana. Tako, po zaštitnicima ljudskih prava konačni tekst Uredbe o VI predstavlja propuštenu prilika za zaštitu građanskih sloboda. Usvajanje Udedbe o VI se shvata kao prihvatanje prakse koja je kroz istoriju bila povezana sa ,,eugenikom“ odnosno naukom o različitim načinima poboljšanja i kontrolisanja ljudske vrste. Konačna verzija Uredbe o VI ide na dušu Francuskoj koja se optužuje da je značajno uticala na njenu sadržinu sa namerom očuvanja i širenja ovlašćenja države da koristi netransparentne i nepouzdane sisteme VI iz bezbednosnih razloga i povećavanje efikasnosti rada policije na sprečavanju kriminala i nasilja na javnim okupljanjima i sve to uoči Olimpijskih i Paraolimpijskih igara u Parizu (Reclaim your face, 2024).

Pravni okvir za upotrebu sistema VI u sprovođenju zakona u Republici Srbiji

Značaj upotrebe VI i njenog prožimanja svih sfera drustvenog života u Republici Srbiji je prepoznat sredinom druge decenije 20 veka. Sprovođenje digitalizacije i značajan razvoj IT sektora koji poslednjih godina ima priličan udeo u rastu BDP su bili direktan most ka istraživanjima, inovacijama i uobličavanja primene VI. To je dovelo do usvajanja prve Startegije za razvoj veštačke inteligencije 2019. godine, etablirajući Srbiju kao prvu zemlju u Jugoistočnoj Evropi i 26. u svetu koja ima ovakav dokument. Takođe, Srbija 2022. godine, postaje deo Globalnog partnerstva za veštačku inteligenciju (u daljem tekstu: GPAI) a 2023. i članica Alijanse za upravljanje veštačkom inteligencijom Svetskog ekonomskog foruma (Euroactiv, 2024).

GPAI je inicijativa koja teži da uspostavi globalne standarde i pravila za razvoj veštačke inteligencije, kao i da ubrza razvoj veštačke inteligencije globalno. Članstvom u GPAI Srbija je stekla brojne benefite na nekoliko različitih polja. Jedan od najznačajnijih je svakako pristup najsavremenijim tokovima u oblasti veštačke inteligencije. Srbija će u naredne tri godine biti predsedavajuća GPAI i to u prvoj i trećoj pomoćna, dok će u drugoj godini biti glavna. Kriterijumi za članstvo bili su napredak razvoja veštačke inteligencije, i posvećenost odgovornom razvoju veštačke inteligencije. Sekretarijat GPAI je pri Organizaciji za ekonomsku saradnju i razvoj (OECD), a ekspertski centri su u Montrealu i Parizu, dok će novi biti otvoren u Japanu (Euroactiv, 2024a).

Republika Srbija ima ukupno 21 politiku i oblasti saradnje i razvoja VI koje su registrovane na OECD-ovoj Observatoriji za VI (OECD AI, 2024). Jedna značajnijih je već pomenuta Strategija za razvoj veštačke inteligencije u Republici Srbiji za period 2020-2025. godine (u daljem tekstu: Strategija).

Strategija u uvodnom delu sadrži ciljeve i mere za razvoj veštačke inteligencije čija implementacija treba da rezultira ekonomskim rastom, unapređenjem javnih usluga, unapređenjem naučnog kadra i razvojem veština za poslove budućnosti (Strategija razvoja veštačke inteligencije u Republici Srbiji za period 2020-2025. godine, "Sl. glasnik RS", br. 96/2019). Usklađena je sa Evropskom inicijativom za VI koja je predhodila Strategiji i Predlogu Uredbe EU o VI kao jedna od obaveza iz procesa pristupanja Republike Srbije EU i koja treba da omogući njenu potpunu integraciju u Evropski istraživački prostor. Od razloga za usvajanje se u Strategiji naglašava ,,da je VI tehnologija opšte namene poput parne mаšine, železnice i električne struje koja dramatično doprinosi razvoju svih oblasti privrede i društva i u mnogim od njih unosi revolucionarne promene“. Takođe se istiće da VI može unaprediti i efikasnost rada javne uprave i kvalitet usluga koje država pruža građanima i privredi (naslov 2.1 Strategije).

Ukazuje se na prednosti njene upotrebe u raznim drustvenim sferama sa mogucim rizicima koji proizlaze iz njene primene. U konkretnim rizicima po na primer lične podatke, unutar naslova ,,Pojedinac i drustvo” istiće se da politika i zakonski okvir Republike Srbije u ovoj oblasti prati standarde EU tačnije Opštu uredbu EU o zaštiti podataka obezbeđujući time primenu visokih standarda zaštite podataka o ličnosti. U izazovima se sagledavajući uporednu praksu, naglašava potreba za prevenciju diskiminacije ukazujivanjem ,,da se može dogoditi da se uvede sistem koji analizom podataka utvrđuje stepen rizika pojedinaca da počine prekršaj ili zločin. Ukoliko se ne koriste adekvatno podaci, ovakav sistem može da reprodukuje diskriminativni obrazac” (naslov 4.4 Strategije). Deo koji se odnosi na konkretne ciljevle, posebno delovi koji se odnose na upotrebu VI u javnoj upravi ne sadrze nikakvo pozivanje niti spominje rizike od njene primene u policijske i bezbednosne svrhe.

Rizici i izazovi kao i kategorizacija ovih sistema su sadržani u Etickim smernicama za razvoj, primenu i upotrebu pouzdane i odgovorne VI iz 2023 ("Sl. glasnik RS", br. 23/2023, u daljem tekstu: Smernice). Smernice slede kategorizaciju sadržanu u predlogu Uredbe o VI Evropske komisije i u kategoriji visoko rizične nabraja sisteme VI:

- biometrijske identifikacije i kategorizacije pojedinca: naročito obuhvataju sisteme namenjene za daljinsku biometrijsku identifikaciju pojedinca u realnom vremenu kao i naknadnu daljinsku biometrijsku identifikaciju;

- krivičnog gonjenja: naročito obuhvata sisteme namenjene organima krivičnog gonjenja koji vrše procenu rizika pojedinaca za izvršenje ili ponovno izvršenje krivičnih dela na osnovu osobina, karakteristika ili prethodnog kriminalnog ponašanja; sisteme koji bi se koristili kao poligrafska sredstva ili sredstva za otkrivanje emocionalnog stanja pojedinca; sisteme koji bi se koristili za ocenu verodostojnosti dokaza tokom predistražnog, istražnog i sudskog postupka; sisteme koji bi se koristili za procenu pojedinca; sisteme namenjene za analitiku krivičnih dela koji se odnose na pojedince i koji omogućavaju pretraživanje složenih povezanih i nepovezanih velikih skupova podataka iz različitih izvora ili u različitim formatima s ciljem uočavanja nepoznatih uzoraka u podacima ili skrivenih veza među podacima;

- upravljanja migracijama ljudi, azilom i nadzora državne granice: naročito obuhvata sisteme koji bi se koristili kao poligrafska sredstva ili sredstva za otkrivanje  emocionalnog  stanja  pojedinca;  sisteme  namenjene  nadležnim organima/institucijama za procenu rizika (uključujući rizik za sigurnost, rizik od nezakonitih imigracija ili rizik za zdravlje) koji predstavlja pojedinac koji namerava da uđe ili je ušao na teritoriju države Republike Srbije; sisteme namenjene nadležnim organima/institucijama za proveru verodostojnosti putnih isprava, naročito kroz proveru sigurnosnih obeležja tih isprava; sisteme namenjene za pomoć nadležnim organima/institucijama pri razmatranju zahteva za azil, vize, boravišne i radne dozvole i s njima povezanim procesima (povezani procesi obuhvataju proveru krivične i prekršajne osuđivanosti, postojanje i vrstu pritužbi datih u vezi s predmetnim zahtevima i sl.), a u cilju donošenja odluka u vezi sa predmetnim zahtevima (Naslov 2.3 Smernica).

Usvajanje Smernica je iskorak u oblikovanju pravnog okvira za upotrebu VI u Republici Srbiji s tim što Smernice nemaju obaveznu snagu već predstavljaju instrument mekog prava kojim se načelno usmerava budući razvoj VI i njena primena od strane službi za sprovođenje zakona. One nisu u potpunosti usklađene sa Uredbom EU o VI jer ne sadrže listu zabranjene odnosno neprihvatljive prakse upotrebe sistema VI u bezbednosne svrhe. Smernice, u stvari, u visokorizične sisteme ubrajaju zabranjene sisteme u EU kao što je na primer, biometrijska identifikacija i kategorizacija pojedinaca odnosno sisteme namenjene za daljinsku biometrijsku identifikaciju pojedinca u realnom vremenu kao i naknadnu daljinsku biometrijsku identifikaciju.

Postavlja se pitanje da li je upotreba sistema VI u bezbednosne i policijske svrhe definisana Smernicama kao visokorizična, dovoljna za sprečavanje njene maliciozne upotrebe od strane službi za sprovođenje zakona u Republici Srbiji? Da li je Zaključak Vlade kao pravni akt koji definiše Smernice dovoljan da spreči službe u masovnom nadzoru putem sistema VI? Odgovor na ova pitanja je odrečan posebno imajući u vidu iskustva sa neuslpešnim pokušajem donošenja Zakon o unutrašnjim poslovima u periodu 2020-2022. koji je de facto trebao da legalizacije upotrebu biometrijskog nadzora. Bilo je predviđeno korišćenje biometrijskog nadzora između ostalog u javnom prostoru odnosno na javnim okupljanjima visokog rizika na osnovu naređenja ministra (Vasilkov, 2023). Nevladine organizacije i civilno društvo su svojim aktivizmom, debatama i kritikama uspele da odlože legislativni proces legalizacije zabranjene i visokorizične prakse biometijskog nadzora i pored obrazloženja predstavnika MUP-a kao predlagaća, da ovi sistemi u mnogome doprinose povećanju bezbednosti građana, i da su već standarna praksa u EU. Naime, civilno drutvo istiće da se Srbija se više puta našla na „procurelim“ spiskovima korisnika moćnih softvera za prepoznavanje lica poput Clearview AI-a i Griffeye kao i da su nabavljeni sistemi VI pomoću kojih je moguće vršiti obradu biometrijskih i drugih podataka, poput „pametnih“ kamera, softvera Social Links, Maltego i Mozenga, kao i programa za napredno prepoznavanje lica (European Western Balkans, 2023).

Zaključak

Bezbednost, policijsko postupanje i rad službi za sprovođenja zakona sa jedne strane i zaštita ljudskih prava i osnovnih sloboda sa druge, su oduvek suprotni polovi, nepomirljive suprotnosti, teme koje razdvajaju i polarizuju javnost posebno zaštitnike ljudskih prava i bezbednosne eksperte i profesionalce. Kada na ovaj većiti antagonizam i debate o tome ko je stariji, bezbednost ili ljudska prava, da li zaštita jedne od ovih vrednosti isključuje zaštitu i poštovanje druge, koliko je dovoljno bezbednosti a kolika je oblast zaštićene privatnosti i nivo poštovanja ljudskih prava, dodamo i primenu sistema VI u bezbednosne svrhe dobijamo veoma izazovnu, rizičnu i prilično tešku jednačinu sa tri nepoznate.

Biometrijski sistemi VI označeni kao zabranjeni i visokorizičn u Uredbi o VI će prestati da se primenjuju odnosno početi da se primenjuju na način predviđen Uredbom, 6 meseci od njenog objavljivanja u Službenom glasniku EU sa obavezom potpune implementacije u narenih dve godine što označava uspostavljanje prvog zakonodavnog okvira kojim se uređuje primena sistema VI u oblasti sprovođenja zakona. Države članice će morati da nađu transparentan, odgovoran i proporcionalni način i oblik upotrebe sistema za predviđanje, upotrebe biometrije i drugih tehnika za nadzor granica, krivično gonjenje i borbu protiv terorizma a na čije korišćenje pretenduju službe za sprovođenje zakona.

Regulisanje pojedinih praksi primene VI u oblasti sprovođenja zakona u Republici Srbiji je definisano Strategijom o primeni veštačke intiligencije 2020 - 2025 i Etičkim smernicama iz 2023. Pokusaj zakonskog uvođenja biometrijskog nadzora kroz predloženi Zakon o unutrašnjim poslovima tokom 2022 je uznemirio javnost i razbesneo zastupnike ljudskih prava u Srbiji. Ono što predstoji u narednom periodu posebno do kraja 2024. godine za kada je predviđeno usvajanje Zakona o unutrašnjim poslova je nastavak ,,borbe“ između pristalica više bezbednosti sa jedne i pristalca zaštite ljudskih prava, sa druge strane. Jedna vrsta mogućeg rešenja ovog društveno bezbednosnog fenomena kao i preporuka koja proizlazi iz ovog istraživanja može biti povezivanje postojećih politika u oblasti VI sa pojedenim zakonima odnosno prarcijalno zakonsko normiranje putem izmene postojeće legislative. Tako, pojedini zakoni bi mogli da regulišu primenu sistema VI, posebno u oblasti sprovođenja zakona kao pomenuti Zakon o unutrašnjim poslovima i Zakon o graničnoj kontoli koji bi regulisao upotrebu sistema VI na graničnim prelazima i nadzoru i zaštiti državne granice. Zakon o organizaciji i nadležnosti državnih organa za borbu protiv visokotehnološkog kriminala bi sadržao odredbe o zabrani korišćenju sistema VI za radnje koje ugrožavaju visokotehnološku bezbednost. Krivični zakonik i Zakon o krivičnom postupku bi obezbedili dovoljan nivo zaštite ljudskih prava u primeni sistema VI u krivičnopravnoj materiji a Zakon o bezbednosno-informativnoj agenciji bi izmenama onemogućio samovoljnu i neseliktivnu upotrebu sistema VI i omogućio takođe veći stepen zaštite ljudskih prava i sloboda. Ovakav način izgradnje pravne infrastukture i pravne regulacije bi doprineo ne samo izgradnji standarda i prakse zakonite upotrebe biometriskih i drugih visokorizičnih sistema VI u nacionlanom pravnom poretku Republike Srbije već i unapređenju međunarodne bezbednosne saradnje sa službama EU za sprovođenje zakona kao što su Evropol i Fronteks, zatim Interpola i na kraju na bilateralnoj osnovi kada se bezbednosna saradnja sa drugim državama upotrebom sistema VI pokaže kao neophodnost.