Zastupnici izvjestitelji Europskog parlamenta zaduženi za Zakon o umjetnoj inteligenciji (Artificial Intelligence Act – AIA) Europske unije izvijestili su da bi korištenje prediktivnih policijskih sustava utemeljinih na umjetnoj inteligenciji za izradu “individualiziranih procjena rizika” trebalo zabraniti zato što se njima “krši ljudsko dostojanstvo i presumpcija nevinosti”, piše Computer Weekly.
Ioan-Dragoş Tudorache, suizvjestitelj u ime odbora za građanske slobode, pravosuđe i unutarnje poslove (LIBE), i Brando Benifei, suizvjestitelj u ime odbora za unutarnje tržište i zaštitu potrošača (IMCO), podržali su u nacrtu izvješća djelomičnu zabranu prediktivnih policijskih sustava utemeljenih na umjetnoj inteligenciji.
“Prediktivni policijski alati narušavaju ljudsko dostojanstvo i pretpostavku nevinosti, uz visoki rizik od diskriminacije. Stoga su uvršteni među zabranjene prakse”, navodi se u nacrtu izvješća objavljenom na 161 stranici.
Prema aktualnom prijedlogu, u Zakonu o umjetnoj inteligenciji navode se četiri prakse koje se smatraju “neprihvatljivim rizikom” i stoga su zabranjene:
- sustavi koji iskrivljuju ljudsko ponašanje;
- sustavi koji iskorištavaju ranjivost određenih društvenih skupina;
- sustavi koji osiguravaju “bodovanje” pojedinaca;
- i biometrijska identifikacija ljudi na javnim mjestima u stvarnom vremenu.
Kritičari su već ranije upozoravali da prijedlog predviđa “široku horizontalnu zabranu” ovih praksi umjetne inteligencije, ali da je njihova uporaba još uvijek dopuštena u kontekstu provođenja zakona.
Iako zabrana prediktivnih policijskihg metoda predložena od strane izvjestitelja ograničava upotrebu takvih sustava od strane organa za provođenje zakona, zabrana bi se proširila samo na sustave koji “predviđaju vjerojatnost da će fizička osoba počiniti ili ponovno počiniti kazneno djelo””, ali ne na lokalizirane prediktivne sustave koji se koriste za profiliranje područja i lokacije.
“Zabrana prediktivnih policijskih metoda značajan je korak u europskoj digitalnoj politici – nikada prije rasna diskriminacija temeljena na podacima nije bila tako visoko na dnevnom redu EU-a. Ali zabrana prediktivnih policijskih metoda nije proširena na policijske sustave koji profiliraju susjedstvo prema riziku od kriminala, što može povećati rizik diskriminacije za rasne i siromašne zajednice”, rekla je Sarah Chander, viša savjetnica u pravnoj udruzi European Digital Rights (EDRi), za Computer Weekly.
Nevladina organizacija Fair Trials također je pozdravila prijedlog, ali također upozorava da nisu obuhvaćene prediktivne metode koje obuhvaćaju pojedine lokacije.
“Iznova i iznova vidjeli smo kako upotreba prediktivnih sustava pogoršava i jača diskriminirajuću policijsku i kaznenopravnu akciju, hrani sustavnu nejednakost u društvu i na kraju uništava ljudske živote”, rekao je Griff Ferris, pravni i politički savjetnik u Fair Trialsu.
“Zabrana se mora proširiti na prediktivne policijske sustave koji ciljaju područja ili lokacije, i imaju isti učinak. Pozivamo sve zastupnike u Europskom parlamentu da ostanu vjerni svom mandatu zaštite prava ljudi podržavajući i glasajući za zabranu svake upotrebe prediktivne umjetne inteligencije u policiji i kaznenom pravosuđu”, poručio je Ferris.
Fair Trials, EDRi i 43 druge organizacije civilnog društva pozvale su zajedno 1. ožujka ove godine europske zakonodavce da zabrane “inteligentne” prediktivne policijske sustave zato što takvi sustavu nerazmjerno pogađaju najmarginaliziranije ljude u društvu, krše temeljna prava i jačaju strukturnu diskriminaciju.
Fair Trials je na potpunu zabranu korištenja umjetne inteligencije i automatiziranih sustava za “predviđanje” kriminalnog ponašanja pozvao u rujnu 2021.
Osim amandmana koji se odnose na prediktivne policisjke sustave, tekst nacrta izvješća sugerira niz drugih izmjena Zakona o umjetnoj inteligenciji. Između ostaloga, predlaže se proširenje popisa visokorizičnih aplikacija kako bi se pokrili slučajevi uporabe umjetne inteligencije u medicinskoj trijaži, osiguranju, deep fakes aplikacije te aplikacije dizajnirane za interakciju s djecom.
Predlaže se, također, stvaranje dvoslojnog pristupa prema kojem bi Europska komisija preuzela veću odgovornost u procjeni sustava umjetne inteligencije kada postoji “široko rasprostranjena kršenja”, odnosno kada sustav utječe na pojedince u tri ili više država članica.
Izvjestitelji su također proširili mehanizme za obeštećenje tako što su uključili pravo da se ljudi žale nadzornim tijelima i traže individualnu i kolektivnu naknadu kada su njihova prava povrijeđena. Na primjer, grupama potrošača bilo bi omogućeno pokretanje pravnih postupaka prema Direktivi o zastupničkim postupcima.
Nacrt izvješća također predlaže amandmane kojima bi se u zakonu uvažili ljudi koji su “pogođeni” umjetnom inteligencijomNaime, Zakon o umjetnoj inteligenciji u sadašnjem obliku prepoznaje samo “pružatelje” – one koji stavljaju sustav umjetne inteligencije na tržište – i “korisnike” – one koji sustav koriste.
To je u skladu s preporukama koje je objavio Institut Ada Lovelace 31. ožujka 2022., u kojima se kaže da bi Zakon o umjetnoj inteligenciji trebala prepoznati “pogođene osobe” kao različite aktere.
Institut Ada Lovelace također je preporučio preoblikovanje značenja “rizika” unutar Zakona o umjetnoj inteligenciji kako bi se sustavi prosuđivali na temelju njihove “razumno predvidive” svrhe, što su Tudorache i Benifei sada uvrstili u predložene amandmane.
U pogledu upravljanja sustavima u jetne inteligencije, izvješće predlaže niz obveza javnih tijela, ali ne i privatnih, komercijalnih subjekata. Između ostaloga predlaže se provedba procjene utjecaja na temeljna prava, informiranje osoba pogođenih visokorizičnim sustavima umjetne inteligencije i registracija svih visokorizičnih slučajeva primjene sustava umjetne inteligencije u javnoj bazi podataka definiranij člankom 60. Zakona o umjetnij inteligenciji.
“Izvjestitelji Europskog parlamenta popunjavaju važnu prazninu – pravo pogođenih osoba da se žale kada sustavi umjetne inteligencije krše naša prava”, kaže Sarah Chander iz EDRi-a. “Međutim, oni bi trebali napraviti korak više i zahtijevati da svi korisnici visokorizične umjetne inteligencije, a ne samo javna tijela, moraju biti transparentni o njihovoj upotrebi.”
Izvješće Tudorache-Benifei odredit će smjer rasprave oko Zakona o umjetnoj inteligenciji u Europskom parlamentu. Prije rasprave o njihovim zaključcima će 11. svibnja raspravljati parlamentarni odbori za građanske slobode, pravosuđe i unutarnje poslove te za unutarnje tržište i zaštitu potrošača. Konačno glasovanje o amandmanima očekuje se krajem studenog 2022. godine.
Međutim, u ovom trenutku nejasno je hoće li odbori usvojiti predložene amandmane u izvješću zbog različitih mišljenja europskih zakonodavaca o prediktivnim policijskim alatima.
Tako je, na primjer, Europski parlamant 5. listopada 2021. odobrio izvješće odbora za građanske slobode, pravosuđe i unutarnje poslove o korištenju umjetne inteligencije od strane policije u Europi koje se protivio korištenju tehnologije za “predviđanje” kriminalnog ponašanja i pozvao je na zabranu biometrijskog masovnog nadzora.
No, dva tjedna kasnije, Parlament je izglasao prijedlog odbora za građanske slobode, pravosuđe i unutarnje poslove o produženju mandata međunarodne kriminalističke agencije Europol, koji agenciji omogućuje lakšu razmjenu informacija s privatnim tvrtkama i razvoj policijskih alata utemeljenih na umjetnoj inteligenciji.
Grupe za građanska prava upozorile su tada da takav predloženi mandat predstavlja “bjanko ček” za policiju da stvori sustave umjetne inteligencije koji riskiraju potkopavanje temeljnih ljudskih prava.
Također, postoje neke točke oko kojiih se razilaze i dvojica izvjetitelja, Benifei i Tudorache. Na primjer, njih dvojica nisu se mogli usuglasiti oko daljinske biometrijske identifikacije, pa je to izostavljeno iz izvješća.
