Vijeće Europske unije potvrdilo je revolucionarni Zakon o umjetnoj inteligenciji kojim se uspostavljaju pravila za primjenu ove nove i izazovne tehnologije u Europskoj uniji. Regulativa slijedi pristup koji se temelji na riziku, što znači da su pravila stroža što je rizik od nanošenja štete društvu veći. To je prvi zakon takve vrste u svijetu i mogao bi postaviti globalne standarde za regulaciju umjetne inteligencije.
Nakon što ga potpišu predsjednici Europskog parlamenta i Vijeća, zakon će biti objavljen u Službenom listu EU-a i stupit će na snagu dvadeset dana nakon objave. Primjena počinje dvije godine nakon stupanja zakona na snagu, uz neke iznimke koje su regulirane posebnim odredbama.
Zakon bi trebao potaknuti razvoj i primjenu sigurnih i pouzdanih sustava umjetne inteligencije na jedinstvenom tržištu EU-a od strane privatnih i javnih dionika. Istodobno, zakon bi trebao osigurati poštivanje temeljnih prava građana EU-a te potaknuti ulaganja i inovacije na području umjetne inteligencije u Uniji. Zakon o umjetnoj inteligenciji primjenjuje se samo na područja koja pokriva zakonodavstvo EU-a i predviđa izuzeća kao što su sustavi koji se koriste isključivo u vojne i obrambene te istraživačke svrhe.
“Usvajanje Zakona o umjetnoj inteligenciji značajna je prekretnica za Europsku uniju. Zakon se bavi globalnim tehnološkim izazovom koji otvara prilike za naša društva i gospodarstva. Donošenjem Zakona o umjetnoj inteligenciji Europa naglašava koliko su u radu s novim tehnologijama važni povjerenje, transparentnost i odgovornost, dok istovremeno omogućuje da ova tehnologija koja se brzo razvija može procvjetati i potaknuti europske inovacije”, rekao je Mathieu Michel, belgijski državni tajnik za digitalizaciju, administrativno pojednostavljenje, zaštitu privatnosti i građevinske propise.
Klasifikacija AI sustava kao visokorizičnih i zabranjenih AI praksi
Novi zakon kategorizira vrste umjetne inteligencije prema riziku. Sustavi umjetne inteligencije koji predstavljaju samo ograničeni rizik bili bi podložni vrlo blagoj regulaciji u smislu transparentnosti, dok bi visokorizični sustavi umjetne inteligencije bili odobreni, ali podložni nizu zahtjeva i obveza koje moraju zadovoljiti da bi postali dostupni na tržištu EU-a.
Sustavi umjetne inteligencije poput kognitivne bihevioralne manipulacije i socijalnog bodovanja bit će zabranjeni u EU jer se rizik koji nose smatra neprihvatljivim. Zakon također zabranjuje primjenu umjetne inteligencije za prediktivne politike na temelju profiliranja i sustava koji koriste biometrijske podatke za kategorizaciju ljudi prema određenim kategorijama kao što su rasa, vjera ili seksualna orijentacija.
Modeli umjetne inteligencije opće namjene
Zakon o umjetnoj inteligenciji također se bavi primjenom modela umjetne inteligencije opće namjene (GPAI / general-purpose AI).
GPAI modeli koji ne predstavljaju sistemske rizike podliježu ograničenoj regulativi, na primjer u pogledu transparentnosti, ali oni sa sistemskim rizicima morat će biti usklađeni sa strožim pravilima.
Nova arhitektura upravljanja
Kako bi se osigurala pravilna provedba zakona, uspostavljeno je nekoliko upravnih tijela:
- Ured za umjetnu inteligenciju unutar Komisije za provedbu zajedničkih pravila diljem EU-a
- Znanstveni panel neovisnih stručnjaka za potporu provedbenim aktivnostima
- Odbor za umjetnu inteligenciju s predstavnicima država članica koji će savjetovati i pomagati Komisiji i državama članicama u dosljednoj i učinkovitoj primjeni Zakona o umjetnoj inteligenciji
- Savjetodavni forum za dionike koji će pružati tehničke ekspertize Odboru za umjetnu inteligenciju i Komisiji
Kazne
Novčane kazne za kršenje zakona o umjetnoj inteligenciji određuju se kao postotak globalnog godišnjeg prometa tvrtke prekršitelja u prethodnoj financijskoj godini ili unaprijed određeni iznos, ovisno o tome koji je veći. Mala i srednja poduzeća i novoosnovana poduzeća podliježu proporcionalnim administrativnim kaznama.
Transparentnost i zaštita temeljnih prava
Prije nego što neki subjekt koji pruža javne usluge uvede visokorizični sustav umjetne inteligencije, morat će se procijeniti utjecaj sustava na temeljna prava. Uredba također predviđa povećanu transparentnost u pogledu razvoja i upotrebe visokorizičnih sustava umjetne inteligencije. Visoko rizični sustavi umjetne inteligencije, kao i određeni korisnici rizičnog sustava umjetne inteligencije koji su javne osobe, morat će biti registrirani u EU bazi podataka za visokorizične sustave umjetne inteligencije, a korisnici sustava za prepoznavanje emocija morat će obavijestiti svaku fizičku osobu koja je izložena takvom sustavu.
Potpore inovacijama
Zakon o umjetnoj inteligenciji osigurava poticajan pravni okvir za razvoj inovacija i teži promicanju učenja utemeljenog na dokazima. Novi zakon predviđa da bi regulatorno okvir koji pruža kontrolirano okruženje za razvoj, testiranje i provjeru valjanosti inovativnih sustava umjetne inteligencije, omogućiti i testiranje inovativnih sustava umjetne inteligencije u stvarnim uvjetima.
