Europska unija želi strogo ograničiti AI

Europski parlament donio je u srijedu svoje pregovaračko stajalište o Aktu o umjetnoj inteligenciji s 499 glasova za, 28 glasova protiv i 93 suzdržanih uoči pregovora s državama članicama o konačnoj verziji propisa. Njime bi se trebalo osigurati da je umjetna inteligencija koja se razvija i upotrebljava u Europi u potpunom skladu s pravima i vrijednostima EU-a, uključujući područja ljudskog nadzora, sigurnosti, privatnosti, transparentnosti, nediskriminacije i ekološke dobrobiti.

Zabranjene prakse umjetne inteligencije

Tim se pravilima, u kojima se slijedi pristup temeljen na riziku, utvrđuju obveze za pružatelje i korisnike koji upotrebljavaju sustave umjetne inteligencije ovisno o razini rizika sustava umjetne inteligencije. Stoga bi sustavi umjetne inteligencije čija je razina rizika za sigurnost ljudi neprihvatljiva trebali biti zabranjeni, poput sustava za vrednovanje građana (klasifikacija ljudi na temelju njihova ponašanja ili osobnih karakteristika). Zastupnici su nadopunili popis zabranivši nametljive i diskriminirajuće upotrebe sustava umjetne inteligencije poput:

• sustava za daljinsku biometrijsku identifikaciju „u stvarnom vremenu” na javnim mjestima
• sustava za „naknadnu” daljinsku biometrijsku identifikaciju, osim ako je to podložno prethodnom sudskom odobrenju te je strogo nužno za ciljano pretraživanje povezano s određenim već počinjenim teškim kaznenim djelom
• sustava za biometrijsku kategorizaciju koji koriste osjetljive značajke (npr. rod, rasu, etničko podrijetlo, državljanstvo, vjeroispovijest, političku orijentaciju)
• sustava za prognostički rad policije (koji se temelje na izradi profila, lokaciji ili prethodnom kriminalnom ponašanju pojedinca)
• sustava za prepoznavanje emocija u području kaznenog progona i upravljanja granicama te u obrazovnim ustanovama i
• neciljanog prikupljanja snimaka lica s interneta ili nadzornih snimaka radi stvaranja baza podataka za prepoznavanje lica (pri čemu se krše temeljna ljudska prava uključujući pravo na privatnost).

Zastupnici su osigurali da klasifikacija visokorizičnih aplikacija sad uključuje umjetnu inteligenciju koja predstavlja znatnu opasnost za zdravlje, sigurnost i temeljna prava ljudi te za okoliš. Na taj popis dodani su i sustavi umjetne inteligencije koji se koriste za utjecanje na glasače i rezultate izbora i u sustavima za preporučivanje koje koriste platforme društvenih medija (s više od 45 milijuna korisnika).

Obveze za sustave umjetne inteligencije opće namjene

Dobavljači temeljnih modela (brzo razvijajuća funkcija u području umjetne inteligencije) trebali bi procijeniti i ublažiti moguće rizike (za zdravlje, sigurnost, temeljna prava, okoliš, demokraciju i vladavinu prava) te registrirati svoje modele u bazi podataka EU-a prije nego što ih stave na tržište EU-a. Sustavi generativne umjetne inteligencije koji se temelje na takvim modelima, poput ChatGPT-a trebali bi ispunjavati uvjete o transparentnosti (s izjavom da se radi o sadržaju generiranom s pomoću umjetne inteligencije te uz pomoć kako razlikovati tzv. deep-fake slike od stvarnih) i osigurati zaštitu od generiranja nezakonitog sadržaja. Detaljni sažeci podataka zaštićenih autorskim pravima koji se koriste za njihovo osposobljavanje također bi trebali biti dostupni javnosti.

Poticanje inovacija i zaštita prava građana

Kako bi se potaknule inovacije u području umjetne inteligencije te podržala mala i srednja poduzeća, zastupnici su dodali iznimke za istraživačke aktivnosti i komponente umjetne inteligencije dostupne na temelju licencija otvorenog koda. Novi propis potiče regulatorna izolirana okruženja ili stvarna okruženja koja utvrđuju javna tijela kako bi se sustavi umjetne inteligencije testirali prije upotrebe.

Konačno, Parlament želi unaprijediti pravo građana da podnesu tužbu povezanu s umjetnom inteligencijom te da dobiju objašnjenja odluka temeljenih na visokorizičnim sustavima umjetne inteligencije koje bitno utječu na njihova temeljna prava. Zastupnici također žele revidirati ulogu Ureda Unije za umjetnu inteligenciju koji bi trebao pratiti primjenu pravila o umjetnoj inteligenciji.

Parlament sad može započeti pregovore s Vijećem o konačnoj verziji propisa.