Europski parlament donio je u srijedu svoje pregovaračko stajalište o Aktu o umjetnoj inteligenciji s 499 glasova za, 28 protiv i 93 suzdržanih, uoči pregovora s državama članicama o konačnoj verziji propisa. Njime bi se trebalo osigurati da je umjetna inteligencija koja se razvija i upotrebljava u Europi u potpunom skladu s pravima i vrijednostima EU-a, uključujući područja ljudskog nadzora, sigurnosti, privatnosti, transparentnosti, nediskriminacije i ekološke dobrobiti.

Zabranjene prakse uporabe umjetne inteligencije

Nova pravila kategoriziraju sustave umjetne inteligencije prema stupnju rizika o kojima onda ovise i uvjeti njihova korištenja, odnosno obveze pružatelja i onih koji postavljaju sustave umjetne inteligencije. Stoga bi sustavi umjetne inteligencije čija je razina rizika za sigurnost ljudi neprihvatljiva trebali biti zabranjeni (poput kategorizacije građana na osnovu društvenog ponašanja ili osobnih karakteristika). Zastupnici su proširili klasifikaciju visokorizičnih područja zabranivši nametljive i diskriminirajuće upotrebe sustava umjetne inteligencije poput:

– sustava za daljinsku biometrijsku identifikaciju ‘u stvarnom vremenu’ i sustava za ‘naknadnu’ daljinsku biometrijsku identifikaciju na javnim mjestima

– sustava za biometrijsku kategorizaciju koji koriste osjetljive značajke (npr. rod, rasu, etničko podrijetlo, državljanstvo, vjeroispovijest, političku orijentaciju)

– sustava za prognostički rad policije (koji se temelje na izradi profila, lokaciji ili prethodnom kriminalnom ponašanju pojedinca)

– sustava za prepoznavanje emocija u području kaznenog progona i upravljanja granicama, na radnom mjestu te u obrazovnim ustanovama

– neselektivnog prikupljanja snimki lica s interneta ili nadzornih snimaka radi stvaranja baza podataka za prepoznavanje lica (pri čemu se krše temeljna ljudska prava uključujući pravo na privatnost).

Visokorizični sustavi umjetne inteligencije

Zastupnici su osigurali da klasifikacija visokorizičnih aplikacija sad uključuje umjetnu inteligenciju koja predstavlja znatnu opasnost za zdravlje, sigurnost i temeljna prava ljudi te za okoliš. Na taj popis dodani su i sustavi umjetne inteligencije koji se koriste za utjecanje na glasače i rezultate izbora i u sustavima za preporučivanje koje koriste platforme društvenih mreža (s više od 45 milijuna korisnika).

Obveze za sustave umjetne inteligencije opće namjene

Dobavljači temeljnih modela (brzo razvijajuća funkcija u području umjetne inteligencije) trebali bi procijeniti i ublažiti moguće rizike (po zdravlje, sigurnost, temeljna prava, okoliš, demokraciju i vladavinu prava) te registrirati svoje modele u bazi podataka EU-a prije nego što ih stave na zajedničko tržište. Sustavi generativne umjetne inteligencije poput ChatGPT-a trebali bi ispunjavati uvjete o transparentnosti (s izjavom da se radi o sadržaju izrađenom s pomoću umjetne inteligencije, a također bi trebali omogućiti razlikovanje ‘uvjerljivih krivotvorenih slika’ od onih stvarnih) i osigurati zaštitu od generiranja nezakonitog sadržaja. Detaljni sažeci podataka zaštićenih autorskim pravima koji se koriste za njihovo osposobljavanje također bi trebali biti dostupni javnosti. 

Poticanje inovacija i zaštita prava građana

Kako bi se potaknule inovacije u području umjetne inteligencije te podržala mala i srednja poduzeća, zastupnici su dodali iznimke za istraživačke aktivnosti i komponente umjetne inteligencije dostupne na temelju licencija otvorenog koda. Novi propis potiče regulatorna izolirana okruženja ili stvarna okruženja koja utvrđuju javna tijela kako bi se sustavi umjetne inteligencije testirali prije upotrebe.

Konačno, Parlament želi unaprijediti pravo građana da podnesu tužbu povezanu s umjetnom inteligencijom te da dobiju objašnjenja odluka temeljenih na visokorizičnim sustavima umjetne inteligencije koje bitno utječu na njihova temeljna prava. Zastupnici također žele revidirati ulogu Ureda Unije za umjetnu inteligenciju koji bi trebao pratiti primjenu pravila o umjetnoj inteligenciji.

‘Želimo da se upotrebljava pozitivni potencijal umjetne inteligencije za kreativnost i produktivnost, ali…’

‘Danas su sve oči uprte u nas. Dok velike tehnološke kompanije zvone na uzbunu zbog vlastitih kreacija, Europa je krenula naprijed i ponudila konkretne odgovore na rizike koji predstavlja umjetna inteligencija. Želimo da se upotrebljava pozitivni potencijal umjetne inteligencije za kreativnost i produktivnost, ali tijekom pregovora s Vijećem također ćemo se boriti za naša stajališta i suzbijanje opasnosti za naše demokracije i naše slobode’, izjavio je nakon glasanja suizvjestitelj Brando Benifei (S&D, Italija).

Suzvjestitelj Dragoş Tudorache (Renew, Rumunjska) rekao je kako će akt o umjetnoj inteligenciji postaviti standard u cijelom svijetu kad je riječ o njezinom razvoju i upravljanju njome. 

‘Osigurat će da se ova tehnologija – koja će radikalno transformirati naša društva kroz goleme prednosti koje može ponuditi – razvija i koristi u skladu s europskim vrijednostima demokracije, temeljnih prava i vladavine prava’, istaknuo je. 

Ovim zakonodavstvom, zastupnici Europskog parlamenta odgovaraju na prijedloge građana s Konferencije o budućnosti Europe o osiguravanju ljudskog nadzora nad procesima povezanima s umjetnom inteligencijom (prijedlog 35(3)); o potpunom korištenju potencijala pouzdane umjetne inteligencije (35(8)); te o korištenju umjetne inteligencije i tehnologija prevođenja za prevladavanje jezičnih barijera (37(3)).