Što ako umjetna inteligencija krene po zlu

Pitanje etike i odgovornosti na području umjetne inteligencije očito zabrinjava većinu poslovnih ljudi. Da bi se ostvario puni potencijal umjetne inteligencije, nužno je preispitati potencijalne rizike te utvrditi odgovarajuće strategije, kontrole i procese

u 7:53 Zadnja izmjena: 11.07.2019 u 7:53
57
umjetna inteligencija

Procijenjeni ekonomski potencijal umjetne inteligencije (UI) od 15,7 bilijuna dolara ostvarit će se samo ako organizacije u svoje poslovanje integriraju odgovornu praksu primjene umjetne inteligencije i uzmu ih u obzir prije bilo kakvog razvoja, zaključuje se u novom PwC-ovom istraživanju.

Borba protiv rascjepkanog pristupa razvoju i integraciji umjetne inteligencije, koji organizacije izlaže potencijalnim rizicima, zahtijeva od organizacija da uključe sveobuhvatno razumijevanje, razvoj i integraciju odgovornog korištenja umjetne inteligencije u svoje poslovanje, zaključci su novog PwC-ovog priručnika objavljenog na Svjetskom ekonomskom forumu u kineskom gradu Dalianu.

PwC je utvrdio pet dimenzija na koje se organizacije trebaju usredotočiti i koje trebaju prilagoditi svojim strategijama, dizajnu, razvoju i implementaciji umjetne inteligencije: upravljanje, etika i regulativa, mogućnost tumačenja i objašnjavanja, stabilnost i sigurnost te pristranost i pravednost.

Ove su dimenzije usredotočene na ugrađivanje strateškog planiranja i upravljanja u razvoj umjetne inteligencije, ublažavanje sve veće zabrinutosti javnosti u pogledu pravednosti, povjerenja i odgovornosti.

Ranije ove godine, 85 posto predsjednika uprava izjavilo je kako će umjetna inteligencija značajno promijeniti način na koji posluju tijekom sljedećih pet godina, a 84 posto je priznalo da odluke utemeljene na umjetnoj inteligenciji moraju moći objasniti kako bi im se moglo vjerovati.

Pitanje etike i odgovornosti na području umjetne inteligencije očito zabrinjava većinu poslovnih ljudi. Rukovoditelji najviše razine trebaju aktivno poticati i aktivno se uključiti u cjelovitu integraciju odgovorne strategije za razvoj umjetne inteligencije koja počiva na etičkim vrijednostima kako bi ostvarili ravnotežu između potencijalnih ekonomskih dobitaka i transformacije poslovanja i društva koja se odvija jednom u generaciji. Jedno bez drugoga predstavlja temeljne reputacijske, poslovne i financijske rizike“, rekao je Anand Rao, globalni voditelj usluga povezanih s umjetnom inteligencijom u PwC-u SAD.

Samo petina ispitanika ima definirane procese za utvrđivanje rizika UI

Dijagnostički upitnik, koji je sastavni dio PwC-ovog Priručnika za odgovornu primjenu umjetne inteligencije, omogućuje organizacijama procjenu vlastitog razumijevanja i primjene odgovornih i etičkih praksi na području umjetne inteligencije. U svibnju i lipnju 2019. godine upitnik je ispunilo oko 250 ispitanika koji se bave razvojem i implementacijom umjetne inteligencije.

Rezultati pokazuju nezrelost i nedosljednost u razumijevanju i primjeni odgovornih i etičkih praksi na području umjetne inteligencije:

  • Samo 25 posto ispitanika izjavilo je kako će prije primjene rješenja na području umjetne inteligencije prvo razmotriti njihove etičke implikacije.
  • Jedan od pet (20 %) ima jasno definirane postupke za utvrđivanje rizika povezanih s umjetnom inteligencijom. Više od 60 posto oslanja se na programere, neformalne procese ili nema dokumentirane procedure.
  • Postoje etički okviri ili razmatranja na području umjetne inteligencije, ali provedba nije bila dosljedna.
  • 56 posto je izjavilo kako bi im bilo teško utvrditi uzrok u slučaju da umjetna inteligencija njihove organizacije učini nešto pogrešno.
  • Više od polovice ispitanika nije formaliziralo svoj pristup procjeni umjetne inteligencije u pogledu pristranosti, navodeći kao razloge nedostatak znanja i alata te ad hoc procjene.
  • 39 posto ispitanika koji imaju umjetnu inteligenciju u širokoj primjena bili su samo “donekle” sigurni da znaju kako zaustaviti svoju UI ako nešto krene po zlu.

Odluke koje donosi UI ne razlikuju se od onih koje donose ljudi

“Umjetna inteligencija donosi prilike, ali i izazove vezane uz povjerenje i odgovornost. Kako bi se ostvarila korist od produktivnosti umjetne inteligencija, za uspjeh su potrebne integrirane organizacijske i kadrovske strategije i planiranje”, kaže Rao. “Rukovoditelji najviše razine svakako bi trebali preispitati sadašnju i buduću praksu na području umjetne inteligencije unutar svoje organizacije, postavljajući pitanja ne samo kako bi se odgovorili na potencijalne rizike, nego i kako bi utvrdili postoje li odgovarajuća strategija, kontrole i procesi.

“Odluke koje donosi umjetna inteligencija ne razlikuju se od onih koje donose ljudi. U oba slučaja morate biti u stanju obrazložiti svoje izbore i razumjeti povezane troškove i posljedice. Ovdje nije riječ samo o tehnološkim rješenjima za otkrivanje pristranosti, ispravljanje, obrazlaganje i izgradnju sigurnih i pouzdanih sustava. Potrebna je nova razina holističkog vodstva koje razmatra etičke dimenzije te dimenzije odgovornosti utjecaja tehnologije na poslovanje, počevši od prvog dana.”

Wilson Chow, globalni voditelj usluga u sektoru tehnologije, medija i telekomunikacija u PwC-u Kina ističe kako je “temelj odgovorne umjetne inteligencije sveobuhvatno upravljanje”.

“Sposobnost organizacija da odgovore na pitanja o odgovornosti, usklađivanju i kontrolama bit će odlučujući faktor za postizanje ambiciozne kineske strategije rasta na području umjetne inteligencije“, dodaje Chow.

PwC-ov priručnik za odgovornu primjenu umjetne inteligencije sadrži fleksibilan i prilagodljiv paket globalnih mogućnosti, a osmišljen je kako bi omogućio i podržao procjenu i razvoj umjetne inteligencije unutar organizacije, prilagođen njezinim jedinstvenim poslovnim zahtjevima i razini zrelosti na području umjetne inteligencije.