Nakon trodnevnih 'maratonskih' razgovora, predsjedništvo Vijeća i pregovarači Europskog parlamenta postigli su privremeni dogovor o prijedlogu usklađenih pravila o umjetnoj inteligenciji (AI), tzv. aktu o umjetnoj inteligenciji. Cilj nacrta uredbe je osigurati da su sustavi umjetne inteligencije koji se stavljaju na europsko tržište i koriste u EU-u sigurni te poštuju temeljna prava i vrijednosti EU-a. Ovaj značajan prijedlog također ima za cilj potaknuti ulaganja i inovacije u umjetnoj inteligenciji u Europi.
Ovo je povijesno postignuće i velika prekretnica prema budućnosti! Današnjim sporazumom učinkovito se rješava globalni izazov u tehnološkom okruženju koje se brzo razvija na ključnom području za budućnost naših društava i gospodarstava. I u ovom smo nastojanju uspjeli održati iznimno osjetljivu ravnotežu: poticanje inovacija i prihvaćanja umjetne inteligencije diljem Europe uz potpuno poštovanje temeljnih prava naših građana. Carme Artigas, španjolska državna tajnica za digitalizaciju i umjetnu inteligenciju
Djelovanje umjetne inteligencije je a admiralski brod zakonodavna inicijativa s potencijalom za poticanje razvoja i prihvaćanja sigurne i pouzdane umjetne inteligencije na jedinstvenom tržištu EU-a od strane privatnih i javnih aktera. Glavna ideja je regulirati umjetnu inteligenciju na temelju njene sposobnosti da nanese štetu društvu nakon a 'temeljen na riziku' pristup: što je veći rizik, to su pravila stroža. Kao prvi zakonski prijedlog takve vrste u svijetu, može postaviti a globalni standard za regulaciju umjetne inteligencije u drugim jurisdikcijama, baš kao što je to učinio GDPR, promičući tako europski pristup tehnološkoj regulaciji na svjetskoj sceni.
Glavni elementi privremenog sporazuma
U usporedbi s početnim prijedlogom Komisije, glavni novi elementi privremenog sporazuma mogu se sažeti kako slijedi:
pravila o visokoučinkoviti modeli opće namjene AI koji mogu uzrokovati sustavni rizik u budućnosti, kao i na visokorizične AI sustavi
revidirani sustav vladavina s određenim ovlastima provedbe na razini EU-a
proširenje popisa zabrane ali uz mogućnost korištenja daljinska biometrijska identifikacija od strane tijela za provođenje zakona na javnim mjestima, podložno zaštitnim mjerama
bolju zaštitu prava kroz obvezu postavljača visokorizičnih sustava umjetne inteligencije da provode a procjena utjecaja na temeljna prava prije stavljanja AI sustava u upotrebu.
Konkretnije rečeno, privremeni sporazum pokriva sljedeće aspekte:
Definicije i opseg
Kako bi se osiguralo da definicija AI sustava pruža dovoljno jasne kriterije za razlikovanje AI od jednostavnijih softverskih sustava, kompromisni sporazum usklađuje definiciju s pristupom koji je predložio OECD.
Privremeni sporazum također pojašnjava da se Uredba ne odnosi na područja izvan djelokruga prava EU-a i ni u kojem slučaju ne bi trebala utjecati na nadležnosti država članica u nacionalna sigurnost ili bilo koji subjekt kojemu su povjereni zadaci u ovom području. Nadalje, Zakon o umjetnoj inteligenciji neće se primjenjivati na sustave koji se koriste isključivo za vojni or odbrana svrhe. Slično tome, sporazum predviđa da se uredba neće primjenjivati na sustave umjetne inteligencije koji se koriste isključivo u svrhu istraživanje i inovacije, ili za ljude koji koriste AI iz neprofesionalnih razloga.
Oglas
Klasifikacija AI sustava kao visokorizičnih i zabranjenih AI praksi
Kompromisni sporazum predviđa a vodoravni sloj zaštite, uključujući visokorizičnu klasifikaciju, kako bi se osiguralo da sustavi umjetne inteligencije koji vjerojatno neće uzrokovati ozbiljne povrede temeljnih prava ili druge značajne rizike nisu obuhvaćeni. Samo predstavljanje AI sustava ograničen rizik bio bi podložan vrlo laganom obveze transparentnosti, na primjer otkrivajući da je sadržaj generirao AI kako bi korisnici mogli donositi informirane odluke o daljnjoj upotrebi.
Širok izbor visokog rizika Sustavi umjetne inteligencije bili bi odobreni, ali podložni nizu zahtjeva i obveza za pristup tržištu EU-a. Te su zahtjeve razjasnili i prilagodili suzakonodavci na način da su više tehnički izvedivo i manje opterećujuće kojih se dionici moraju pridržavati, primjerice u pogledu kvalitete podataka ili u vezi s tehničkom dokumentacijom koju trebaju izraditi mala i srednja poduzeća kako bi se pokazalo da su njihovi visokorizični sustavi umjetne inteligencije u skladu sa zahtjevima.
Budući da se sustavi umjetne inteligencije razvijaju i distribuiraju kroz složene lance vrijednosti, kompromisni sporazum uključuje promjene koje pojašnjavaju raspodjela odgovornosti i uloge raznih glumaca u tim lancima, posebno pružatelji i korisnici sustava umjetne inteligencije. Također pojašnjava odnos između odgovornosti prema Zakonu o umjetnoj inteligenciji i odgovornosti koje već postoje prema drugom zakonodavstvu, kao što je relevantno zakonodavstvo EU-a o zaštiti podataka ili sektorsko zakonodavstvo.
Za neke upotrebe umjetne inteligencije smatra se rizikom neprihvatljiv i stoga će ti sustavi biti zabranjeni u EU. Privremeni sporazum zabranjuje, primjerice, kognitivne bihevioralna manipulacija, neciljani ukidanje slika lica s interneta ili CCTV snimaka, prepoznavanje emocija na radnom mjestu i u obrazovnim ustanovama, socijalno bodovanje, biometrijsku kategorizaciju za zaključivanje osjetljivih podataka, kao što su seksualna orijentacija ili vjerska uvjerenja, i neki slučajevi prediktivna policija za pojedince.
Izuzeci za provedbu zakona
S obzirom na specifičnosti tijela za provođenje zakona i potrebe da očuvaju svoju sposobnost korištenja AI-ja u svom vitalnom radu, dogovoreno je nekoliko izmjena prijedloga Komisije u vezi s korištenjem AI sustava u svrhe provedbe zakona. Podložno odgovarajućim mjere zaštite, ove promjene trebaju odražavati potrebu za poštovanjem povjerljivosti osjetljivih operativnih podataka u vezi s njihovim aktivnostima. Na primjer, uveden je hitni postupak koji je agencijama za provođenje zakona omogućio implementaciju visokorizičnog AI alata koji nije prošao ocjenjivanje sukladnosti postupak u slučaju hitnosti. Međutim, uveden je i poseban mehanizam koji to osigurava temeljna prava bit će dovoljno zaštićeni od potencijalnih zlouporaba AI sustava.
Štoviše, što se tiče korištenja stvarnog vremena daljinska biometrijska identifikacija sustava u javno dostupnim prostorima, privremeni sporazum pojašnjava ciljeve u kojima je takva uporaba strogo nužna za potrebe provođenja zakona i za koje bi tijelima za provođenje zakona trebalo iznimno biti dopušteno koristiti takve sustave. Kompromisni sporazum predviđa dodatne zaštite te ograničava ove iznimke na slučajeve žrtava određenih zločina, sprječavanje stvarnih, sadašnjih ili predvidljivih prijetnji, kao što su teroristički napadi, i potrage za osobama osumnjičenima za najteža kaznena djela.
Sustavi AI opće namjene i modeli temelja
Dodane su nove odredbe kako bi se uzele u obzir situacije u kojima se sustavi umjetne inteligencije mogu koristiti za mnoge različite svrhe (AI opće namjene), i gdje je AI tehnologija opće namjene naknadno integrirana u drugi visokorizični sustav. Privremeni sporazum također se bavi specifičnim slučajevima AI sustava opće namjene (GPAI).
Dogovorena su i posebna pravila za modeli temelja, veliki sustavi sposobni za kompetentno obavljanje širokog spektra posebnih zadataka, kao što je generiranje videa, teksta, slika, razgovor na bočnom jeziku, računalstvo ili generiranje računalnog koda. Privremeni sporazum predviđa da modeli temelja moraju biti u skladu s posebnim obveze transparentnosti prije nego što se stave na tržište. Uveden je stroži režim za 'veliki utjecaj' modeli temelja. To su temeljni modeli obučeni s velikom količinom podataka i s naprednom složenošću, mogućnostima i performansama znatno iznad prosjeka, koji mogu širiti sistemske rizike duž lanca vrijednosti.
Nova arhitektura upravljanja
Slijedeći nova pravila o modelima GPAI i očitu potrebu za njihovom provedbom na razini EU-a, an Ured za umjetnu inteligenciju unutar Komisije je uspostavljen sa zadatkom da nadzire ove najnaprednije modele umjetne inteligencije, pridonese poticanju standarda i praksi testiranja te provodi zajednička pravila u svim državama članicama. A znanstveni panel neovisnih stručnjaka savjetovat će Ured za umjetnu inteligenciju o GPAI modelima, pridonoseći razvoju metodologija za procjenu sposobnosti modela temelja, savjetovanjem o određivanju i nastanku modela temelja visokog utjecaja te praćenjem mogućih sigurnosnih rizika materijala povezanih s modelima temelja.
Korištenje električnih romobila ističe AI ploča, koji bi se sastojao od predstavnika država članica, ostat će platforma za koordinaciju i savjetodavno tijelo Komisije i dat će važnu ulogu državama članicama u provedbi uredbe, uključujući izradu kodeksa prakse za temeljne modele. Konačno, an savjetodavni forum za dionike, kao što su predstavnici industrije, mala i srednja poduzeća, novoosnovana poduzeća, civilno društvo i akademska zajednica, uspostavit će se za pružanje tehničke ekspertize Odboru za umjetnu inteligenciju.
Jedanaesterci
Novčane kazne za kršenje zakona o umjetnoj inteligenciji postavljene su kao postotak globalnog godišnjeg prometa tvrtke prekršitelja u prethodnoj financijskoj godini ili kao unaprijed određeni iznos, ovisno o tome koji je veći. To bi bilo 35 milijuna eura ili 7% za kršenje zabranjenih aplikacija umjetne inteligencije, 15 milijuna eura ili 3% za kršenje obveza zakona o umjetnoj inteligenciji i 7,5 milijuna eura ili 1,5% za pružanje netočnih informacija. Međutim, privremeni sporazum predviđa proporcionalnije kape o upravnim kaznama za mala i srednja poduzeća i novoosnovana poduzeća u slučaju kršenja odredaba Zakona o AI.
Kompromisni sporazum također pojašnjava da fizička ili pravna osoba može podnijeti pritužbu mjerodavnom tijelo za nadzor nad tržištem u vezi s nepoštivanjem zakona o AI i može očekivati da će se s takvim prigovorom postupati u skladu s posebnim postupcima tog tijela.
Transparentnost i zaštita temeljnih prava
Privremeni sporazum predviđa a procjena utjecaja na temeljna prava prije nego što visokorizični sustav umjetne inteligencije njegovi postavljači stave na tržište. Privremeni sporazum također predviđa povećanje transparentnost u vezi s korištenjem visokorizičnih sustava umjetne inteligencije. Naime, neke odredbe prijedloga Komisije izmijenjene su kako bi se naznačilo da će određeni korisnici visokorizičnog sustava umjetne inteligencije koji su javne osobe također biti obvezni registrirati se u EU baza podataka za visokorizične AI sustave. Štoviše, novododane odredbe stavljaju naglasak na obvezu za korisnike an sustav za prepoznavanje emocija obavijestiti fizičke osobe kada su izložene takvom sustavu.
Mjere potpore inovacijama
S ciljem stvaranja pravnog okvira koji je više naklonjen inovacijama i promicanja regulatornog učenja utemeljenog na dokazima, odredbe koje se odnose mjere podrške inovacijama su znatno izmijenjeni u usporedbi s prijedlogom Komisije.
Naime, pojašnjeno je da AI regulacijski pješčanici, koji bi trebali uspostaviti kontrolirano okruženje za razvoj, testiranje i validaciju inovativnih AI sustava, također bi trebali omogućiti testiranje inovativnih AI sustava u stvarnim uvjetima. Nadalje, dodane su nove odredbe koje dopuštaju testiranje sustava umjetne inteligencije u uvjeti stvarnog svijeta, pod određenim uvjetima i zaštitnim mjerama. Kako bi se smanjio administrativni teret za manje tvrtke, privremeni sporazum uključuje popis radnji koje treba poduzeti za podršku takvim operaterima i predviđa neka ograničena i jasno navedena odstupanja.
Stupanje na snagu
Privremenim sporazumom predviđeno je da se primjenjuje Zakon o AI dvije godine nakon stupanja na snagu, uz neke iznimke za posebne odredbe.
Sljedeći koraci
Nakon današnjeg privremenog dogovora, rad će se nastaviti na tehničkoj razini u nadolazećim tjednima kako bi se finalizirali detalji nove uredbe. Predsjedništvo će dostaviti kompromisni tekst predstavnicima država članica (Coreper) na odobrenje nakon što ovaj posao bude završen.
Cjelokupni tekst trebat će potvrditi obje institucije i proći pravno-lingvističku reviziju prije nego što ga službeno usvoje suzakonodavci.
Dodatne informacije
Prijedlog Komisije, predstavljen u travnju 2021., ključni je element politike EU-a za poticanje razvoja i prihvaćanja sigurne i zakonite umjetne inteligencije koja poštuje temeljna prava na cijelom jedinstvenom tržištu.
Prijedlog slijedi pristup temeljen na riziku i utvrđuje jedinstveni, horizontalni pravni okvir za umjetnu inteligenciju čiji je cilj osigurati pravnu sigurnost. Nacrt uredbe ima za cilj promicati ulaganja i inovacije u umjetnoj inteligenciji, poboljšati upravljanje i učinkovitu provedbu postojećeg zakona o temeljnim pravima i sigurnosti te olakšati razvoj jedinstvenog tržišta za aplikacije umjetne inteligencije. Ide ruku pod ruku s drugim inicijativama, uključujući koordinirani plan o umjetnoj inteligenciji čiji je cilj ubrzati ulaganje u umjetnu inteligenciju u Europi. Vijeće je 6. prosinca 2022. postiglo dogovor o općem pristupu (pregovarački mandat) o ovom predmetu i sredinom lipnja 2023. započelo međuinstitucionalne razgovore s Europskim parlamentom („trijalozi”).
EU Reporter objavljuje članke iz raznih vanjskih izvora koji izražavaju širok raspon stajališta. Stavovi zauzeti u ovim člancima nisu nužno stavovi EU Reportera.
