EK predložila nova pravila i mjere za razvoj i primjenu umjetne inteligencije

Nova Uredba o umjetnoj inteligenciji Europljanima će biti jamstvo povjerenja u ono što umjetna inteligencija nudi. Razmjernim i fleksibilnim pravilima obuhvatit će se specifični rizici koje donose sustavi umjetne inteligencije te postaviti najviši svjetski standardi

30
umjetna inteligencija
[Image by Gerd Altmann from Pixabay]

Europska komisija objavila je u srijedu (21.4. 2021.) prijedlog novih pravila i mjera o razvoju i primjeni umjetne inteligencije. Cilj je da Europa postane svjetski predvodnik u pouzdanoj umjetnoj inteligenciji. Prvi pravni okvir za umjetnu inteligenciju u kombinaciji s novim koordiniranim planom bit će državama članicama jamstvo sigurnosti i poštovanja temeljnih prava ljudi i poduzeća te će povećati korištenje umjetne inteligencije i ulaganja i inovacije u tom području u cijeloj Uniji. Takav pristup upotpunit će novim pravilima o strojevima, odnosno prilagodbom sigurnosnih pravila kako bi se povećalo povjerenje korisnika u novu, raznovrsnu generaciju proizvoda.

Nova Uredba o umjetnoj inteligenciji Europljanima će biti jamstvo povjerenja u ono što umjetna inteligencija nudi. Razmjernim i fleksibilnim pravilima obuhvatit će se specifični rizici koje donose sustavi umjetne inteligencije te postaviti najviši svjetski standardi. U koordiniranom planu u glavnim se crtama iznose promjene u politici i ulaganja potrebna u državama članicama da bi se učvrstio vodeći položaj Europe u razvoju antropocentrične, održive, sigurne, uključive i pouzdane umjetne inteligencije.

Europski pristup pouzdanoj umjetnoj inteligenciji

Nova pravila izravno će se primjenjivati na isti način u svim državama članicama na temelju definicije umjetne inteligencije koja je prilagođena budućim okolnostima. U njihovoj je izradi korišten pristup koji se temelji na riziku.

Neprihvatljiv rizik:

Sustavi koji se smatraju jasnom prijetnjom sigurnosti, sredstvima za život i pravima ljudi bit će zabranjeni. To obuhvaća sustave ili aplikacije umjetne inteligencije koji manipuliraju korisnikovim ponašanjem kako bi zaobišli njegovu volju (npr. igračke s glasovnom pomoći koje potiču opasno ponašanje maloljetnika) i sustave koji državama omogućuju “društveno vrednovanje”.

>>EK razmatra zabranu primjene UI za masovni nadzor “prihvatljivog ponašanja”

Visok rizik

Visokorizični sustavi umjetne inteligencije obuhvaćaju tehnologiju koja se upotrebljava u:

  • kritičnoj infrastrukturi (npr. prometnoj) koja može ugroziti život i zdravlje građana
  • strukovnom obrazovanju ili osposobljavanju koje osobi može odrediti pristup obrazovanju i usmjeriti profesionalni život (npr. bodovanje ispita)
  • sigurnosnim dijelovima proizvoda (npr. primjena umjetne inteligencije u robotski potpomognutim kirurškim zahvatima)
  • zapošljavanju, kadrovskom upravljanju i pristupu samozapošljavanju (npr. softver za razvrstavanje životopisa u postupcima zapošljavanja)
  • osnovnim privatnim i javnim uslugama (npr. ocjenjivanje kreditne sposobnosti koje građanima može uskratiti mogućnost da podignu kredit)
  • provođenju zakona koje se može kositi s temeljnim pravima građana (npr. evaluacija pouzdanosti dokaza)
  • upravljanju migracijama, azilom i granicama (npr. provjera vjerodostojnosti putnih isprava)
    pravosuđu i demokratskim procesima (npr. primjena zakona na konkretan skup činjenica).

Za visokorizične sustave vrijedit će stroge obveze koje moraju ispuniti prije stavljanja na tržište:

  • odgovarajući sustavi procjene i smanjenja rizika
  • visoka kvaliteta ulaznih podataka kako bi se smanjili rizici i diskriminatorni rezultati
  • evidentiranje aktivnosti radi sljedivosti rezultata
  • podrobna dokumentacija sa svim informacijama o sustavu i njegovoj namjeni koje su potrebne tijelima za ocjenjivanje sukladnosti
  • jasne i primjerene informacije za korisnike
  • odgovarajuće mjere ljudskog nadzora radi minimiziranja rizika
  • visoka razina stabilnosti, sigurnosti i točnosti.

Konkretno, strogim uvjetima podliježu svi sustavi daljinske biometrijske identifikacije jer ih se smatra visokorizičnima. Njihova je upotreba u stvarnom vremenu u javnim prostorima u načelu zabranjena. Iznimke su strogo definirane, regulirane i ograničene na najnužnije situacije, na primjer kad se koriste u potrazi za nestalim djetetom, za sprečavanje konkretne i neposredne terorističke prijetnje ili za otkrivanje, lociranje, identificiranje ili istragu protiv počinitelja teškog kaznenog djela ili osumnjičenika za takvo djelo. Takvu upotrebu mora odobriti sudsko ili drugo neovisno tijelo i mora biti ograničena vremenski, zemljopisno i na određene baze podataka.

Ograničen rizik

Sustavi umjetne inteligencije s posebnim obvezama u pogledu transparentnosti: korisnici sustava kao što su chatbotovi trebali bi znati da je riječ o interakciji sa strojem kako bi mogli utemeljeno odlučiti žele li se upustiti u nju ili odustati.

Minimalan rizik

Prijedlog propisa omogućuje neograničeno korištenje umjetne inteligencije u videoigrama ili filtrima za neželjenu e-poštu. U tu kategoriju spada većina sustava umjetne inteligencije. Nacrt uredbe ih ne regulira jer su ti sustavi slabo ili nimalo rizični za prava i sigurnost građana.

Komisija predlaže da nova pravila budu pod nadzorom nacionalnih tijela nadležnih za nadzor tržišta. Provedbu pravila i izradu standarda za umjetnu inteligenciju olakšat će osnivanje Europskog odbora za umjetnu inteligenciju. Osim toga, za umjetnu inteligenciju koja nije visokorizična predlažu se dobrovoljni kodeksi ponašanja i regulatorni okviri za testiranje i poticanje odgovornih inovacija.

Europski pristup izvrsnosti u umjetnoj inteligenciji

Koordinirano djelovanje učvrstit će vodeći položaj Europe u području antropocentrične, održive, sigurne, uključive i pouzdane umjetne inteligencije. Kako bi Europa ostala globalno konkurentna, Komisija se obvezala poticati inovacije u razvoju i korištenju tehnologije umjetne inteligencije u svim sektorima i svim državama članicama.

Koordinirani plan o umjetnoj inteligenciji, kojim su 2018. definirani instrumenti financiranja i mjere za razvoj i korištenje umjetne inteligencije, omogućio je stvaranje dinamičnog okruženja nacionalnih strategija i financijskih sredstava EU-a za javno-privatna partnerstva i istraživačko-inovacijske mreže. U cjelovito ažuriranom Koordiniranom planu predlažu se zajedničke mjere s ciljem usklađivanja svih aktivnosti s europskom strategijom za umjetnu inteligenciju i europskim zelenim planom, vodeći pritom računa o novim izazovima koje je donijela pandemija koronavirusa. Iznosi se vizija za ubrzanje ulaganja u umjetnu inteligenciju jer to može pridonijeti oporavku. Želi se i potaknuti provedba nacionalnih strategija umjetne inteligencije, ukloniti rascjepkanost i poduzeti mjere za globalne izazove.

Za ažurirani Koordinirani plan koristit će se sredstva dodijeljena u okviru programa Digitalna Europa i Obzor Europa, kao i Mehanizma za oporavak i otpornost, s predviđenih 20 % rashoda za troškove digitalizacije, te programa kohezijske politike.

Cilj toga je:

  • stvaranje poticajnih uvjeta za razvoj i primjenu umjetne inteligencije razmjenom uvida u politiku, razmjenom podataka i ulaganjima u kritične računalne kapacitete
    poticanje izvrsnosti u umjetnoj inteligenciji od laboratorija do tržišta uspostavljanjem javno-privatnog partnerstva, organizacijom i primjenom istraživanja, razvojnim i inovacijskim kapacitetima te stavljanjem centara za testiranje i eksperimentiranje i centara za digitalne inovacije na raspolaganje MSP-ovima i javnim upravama
  • stavljanje umjetne inteligencije u službu građana i društva predvođenjem razvoja i primjene pouzdane umjetne inteligencije, razvojem talenata i vještina poticanjem stažiranja, umrežavanja doktoranada i postdoktorskih stipendija u digitalnim područjima, uvrštavanjem povjerenja u politike umjetne inteligencije te promicanjem europske vizije održive i pouzdane umjetne inteligencije u svijetu
  • strateško vodstvo u sektorima i tehnologijama s velikim utjecajem, primjerice u području okoliša fokusiranjem na doprinos umjetne inteligencije održivoj proizvodnji, u zdravstvu širenjem međunarodne razmjene informacija te u javnom sektoru, prometu, unutarnjim poslovima, poljoprivredi i robotici.

Europski pristup novim strojevima

Strojevi obuhvaćaju raznovrsne proizvode za osobnu i profesionalnu upotrebu: robote, kosilice, 3D pisače, građevinske strojeve, industrijske proizvodne linije itd. Direktiva o strojevima, koju će zamijeniti nova Uredba o strojevima, definirala je zdravstvene i sigurnosne uvjete za strojeve. Novom će se uredbom zajamčiti sigurnost nove generacije strojeva za korisnike i potrošače te potaknuti inovacije. Sigurnosni rizici sustava umjetne inteligencije obuhvaćeni su Uredbom o umjetnoj inteligenciji, a novom Uredbom o strojevima uredit će se sigurna integracija tih sustava u strojeve općenito. Poduzeća će morati provesti samo jedno ocjenjivanje sukladnosti.

Nova Uredba o strojevima odgovor je na potrebe tržišta: unijet će veću pravnu jasnoću u postojeće odredbe te smanjiti administrativni teret i troškove poduzećima jer će dokumentacija moći biti u digitalnim formatima, a MSP-ovi će plaćati prilagođene naknade za ocjenjivanje sukladnosti. Ujedno će osigurati usklađenost s pravnim okvirom EU-a za proizvode.

Idući koraci

Europski parlament i države članice Komisijine će prijedloge europskog pristupa umjetnoj inteligenciji i strojevima morati donijeti u redovnom zakonodavnom postupku. Nakon donošenja uredbe će se izravno primjenjivati u cijeloj Uniji. Komisija će istodobno nastaviti surađivati s državama radi provedbe mjera najavljenih u Koordiniranom planu.

“Povjerenje u umjetnu inteligenciju je imperativ, a ne tek zgodna opcija. Ovo su važni propisi kojima Unija predvodi razvoj novih globalnih normi koje će biti jamstvo povjerenja u umjetnu inteligenciju. Postavljajući standarde možemo otvoriti put razvoju etične tehnologije u svijetu i pritom očuvati Unijinu konkurentnost. Naša su pravila spremna za budućnost i okrenuta inovacijama te će se primjenjivati samo kad je to doista nužno: kad budu ugrožena temeljna prava i sigurnost građana Unije”, rekla je Izvršna potpredsjednica za Europu spremnu za digitalno doba Margrethe Vestager.

“Umjetna inteligencija je sredstvo, a ne cilj. Postoji već desetljećima, ali zahvaljujući računalnoj snazi dosegla je nove mogućnosti. To znači golem potencijal u najrazličitijim područjima kao što su zdravlje, promet, energetika, poljoprivreda, turizam ili kibersigurnost. Donosi, međutim, i rizike. Današnjim se prijedlozima nastoji učvrstiti položaj Europe kao svjetskog centra izvrsnosti u području umjetne inteligencije od laboratorija do tržišta, osigurati da umjetna inteligencija u Europi bude u skladu s našim vrijednostima i pravilima te iskoristiti njezin potencijal za industrijsku primjenu”, poručio je pak povjerenik za unutarnje tržište Thierry Breton.