EUAktualnoSlovenijaGospodarstvo

Bruselj predlaga prvi evropski pravni okvir za uporabo umetne inteligence

Evropska komisija je danes predlagala sploh prvi evropski pravni okvir za uporabo umetne inteligence, ki naj bi zavaroval varnost in pravice ljudi in podjetij ter obenem spodbudil naložbe v tehnološki razvoj in inovacije. Predlog vključuje tudi prepoved uporabe umetne inteligence v določenih primerih in finančne kazni za kršitelje pravil.

Umetna inteligenca se uporablja že desetletja, a dobiva s tehnološkim razvojem nove zmogljivosti, kar odpira ogromno priložnosti na različnih področjih, kot so zdravje, promet, energetika, kmetijstvo, turizem ali kibernetska varnost. Obenem prinaša tudi številna tveganja.

Za učinkovito in varno uporabo umetne inteligence je treba zagotoviti sinergijo ekosistemov zaupanja in odličnosti, je ob predstavitvi zakonodajnega predloga, s katerim želi EU na digitalnem področju dohiteti ZDA in Kitajsko, izpostavila izvršna podpredsednica komisije za digitalne zadeve Margrethe Vestager.

Predlog komisije temelji na logiki, da je umetna inteligenca sredstvo, ne cilj, zato komisija ne ureja umetne inteligence kot take, temveč kdaj in kako se uporablja. “Večje je tveganje uporabe za življenje ljudi, strožja so pravila,” je ponazorila Vestagerjeva.

Komisija predlaga ureditev v obliki piramide iz štirih delov. Spodnji in najširši del se nanaša na uporabo umetne inteligence brez tveganja ali z majhnim tveganjem, na primer filtre za nezaželeno elektronsko pošto.

Pri naslednji plasti gre za omejeno tveganje, na primer pri sistemih kupovanja vozovnic ali vstopnic. Ko gre za sisteme umetne inteligence, kot so klepetalni boti, morajo uporabniki vedeti, da so v stiku s strojem, izpostavljajo v komisiji.

Ključen del te piramide je tretja plast, ki se nanaša na uporabo umetne inteligence v primerih, ki pomembno vplivajo na naša življenja, na primer pri zaposlovanju in izobraževanju ter v kritični infrastrukturi, denimo v prometu, ko lahko ogrozi življenje in zdravje ljudi.

V tem primeru komisija predlaga pet strogih pogojev za uporabo: zagotovitev kakovostnih podatkov, podrobno spremljanje delovanja sistema, ustrezno obveščanje uporabnikov, ustrezna raven človeškega nadzora tako pri zasnovi kot pri izvajanju ter spoštovanje najvišjih standardov na področju kibernetske varnosti in točnosti.

Med sistemi velikega tveganja namenja komisija posebno pozornost biometrični identifikaciji na daljavo. Njena uporaba v živo na javnih prostorih za namene preprečevanja, odkrivanja in preiskovanja kaznivih dejanj je načeloma prepovedana.

Vendar zakonodaja opredeljuje vrsto izjem, na primer ko je uporaba nujna pri iskanju pogrešanega otroka, za preprečevanje konkretne in neposredne teroristične grožnje ali pri odkrivanju, iskanju, prepoznavanju ali pregonu storilca ali osumljenca hudega kaznivega dejanja. Pri tem gre sicer za primere, ko je storilcu, če je spoznan za krivega, zagrožena več kot triletna zaporna kazen.

Za tako uporabo je potrebno dovoljenje pravosodnega ali drugega neodvisnega organa. Poleg tega mora biti omejena glede časa, geografskega obsega in podatkovnih zbirk, ki se preiskujejo.

Za najožje, a najbolj tvegano področje komisija predlaga prepoved uporabe umetne inteligence, ker ocenjuje, da gre za nesprejemljivo tveganje, ki ogroža varnost in pravice ljudi.

V to skrajno prepovedano kategorijo sodijo sistemi, ki manipulirajo vedenje ljudi, na primer igrača z glasovnim upravljanjem, ki otroka spodbuja k nevarnemu ravnanju, in sistemi, ki vladam omogočajo družbeno točkovanje, po katerem bi na primer oseba, ki krši prometna pravila, lahko imela težave pri pridobivanju posojila na banki.

Za kršitelje so v skrajnem primeru predvidene finančne kazni – do 30 milijonov evrov ali v primeru podjetja do šest odstotkov njegovega celotnega letnega prometa, odvisno od tega, kateri znesek je večji.

Zakonodaja v obliki uredbe se sprejema po rednem postopku. Zdaj gre z obravnavo v Svet EU in Evropski parlament. Uredba se začne ob sprejetju neposredno uporabljali v vseh članicah EU.

Source
STA
Back to top button