umjetna inteligencija

EU AI Act: Prva uredba o umjetnoj inteligenciji

PODJELI:

Objavljeno

Prije 9 mjeseci

Kolovoz 11, 2023

Korištenje umjetne inteligencije u EU bit će regulirano Zakonom o umjetnoj inteligenciji, prvim sveobuhvatnim zakonom o umjetnoj inteligenciji. Saznajte kako će vas zaštititi, Društvo.

Kao dio svojih digitalna strategija, EU želi regulirati umjetnu inteligenciju (AI) kako bi osigurao bolje uvjete za razvoj i korištenje ove inovativne tehnologije. AI može stvoriti mnoge prednosti, kao što je bolja zdravstvena skrb; sigurniji i čišći prijevoz; učinkovitija proizvodnja; te jeftiniju i održiviju energiju.

U travnju 2021. Europska komisija predložila je prvi EU regulatorni okvir za AI. Kaže da se AI sustavi koji se mogu koristiti u različitim aplikacijama analiziraju i klasificiraju prema riziku koji predstavljaju za korisnike. Različite razine rizika značit će više ili manje regulacije. Nakon odobrenja, ovo će biti prva svjetska pravila o umjetnoj inteligenciji.

Saznajte više o što je umjetna inteligencija i kako se koristi.

Što Parlament želi u zakonodavstvu o umjetnoj inteligenciji

Prioritet parlamenta je osigurati da su sustavi umjetne inteligencije koji se koriste u EU sigurni, transparentni, sljedivi, nediskriminirajući i ekološki prihvatljivi. Sustave umjetne inteligencije trebaju nadzirati ljudi, a ne automatizacija, kako bi se spriječili štetni ishodi.

Parlament također želi uspostaviti tehnološki neutralnu, jedinstvenu definiciju umjetne inteligencije koja bi se mogla primijeniti na buduće sustave umjetne inteligencije.

Saznajte više o Rad parlamenta na umjetnoj inteligenciji i njegova vizija budućnosti umjetne inteligencije.

Oglas

Zakon o AI: različita pravila za različite razine rizika

Nova pravila utvrđuju obveze za pružatelje i korisnike ovisno o razini rizika od umjetne inteligencije. Iako mnogi sustavi umjetne inteligencije predstavljaju minimalan rizik, potrebno ih je procijeniti.

Neprihvatljiv rizik

Neprihvatljivi rizik AI sustavi su sustavi koji se smatraju prijetnjom ljudima i bit će zabranjeni. Oni uključuju:

Kognitivna bihevioralna manipulacija ljudi ili određenih ranjivih skupina: na primjer igračke koje se aktiviraju glasom i potiču opasno ponašanje kod djece
Društveno bodovanje: klasificiranje ljudi na temelju ponašanja, socioekonomskog statusa ili osobnih karakteristika
Sustavi biometrijske identifikacije u stvarnom vremenu i na daljinu, kao što je prepoznavanje lica

Mogu se dopustiti neke iznimke: Na primjer, "post" sustavi daljinske biometrijske identifikacije gdje se identifikacija dogodi nakon značajnog kašnjenja bit će dopušteni za procesuiranje ozbiljnih zločina, ali samo nakon sudskog odobrenja.

Visokog rizika

Sustavi umjetne inteligencije koji negativno utječu na sigurnost ili temeljna prava smatrat će se visokim rizikom i podijelit će se u dvije kategorije:

1) AI sustavi koji se koriste u proizvodima koji spadaju pod zakonodavstvo EU-a o sigurnosti proizvoda. To uključuje igračke, zrakoplovstvo, automobile, medicinske uređaje i dizala.

2) Sustavi umjetne inteligencije koji spadaju u osam specifičnih područja koja će se morati registrirati u bazi podataka EU-a:

Biometrijska identifikacija i kategorizacija fizičkih osoba
Upravljanje i rad kritične infrastrukture
Obrazovanje i stručno osposobljavanje
Zapošljavanje, upravljanje radnicima i pristup samozapošljavanju
Pristup bitnim privatnim i javnim uslugama i pogodnostima te uživanje u njima
Provedbu zakona
Upravljanje migracijama, azilom i kontrolom granica
Pomoć u pravnom tumačenju i primjeni zakona.

Svi visokorizični sustavi umjetne inteligencije bit će procijenjeni prije nego što se stave na tržište i tijekom njihova životnog ciklusa.

Generativna AI

Generativni AI, poput ChatGPT-a, morao bi biti u skladu sa zahtjevima transparentnosti:

Otkrivanje da je sadržaj generirao AI
Dizajniranje modela kako bi se spriječilo generiranje ilegalnog sadržaja
Objavljivanje sažetaka podataka zaštićenih autorskim pravima koji se koriste za obuku

Ograničeni rizik

Sustavi umjetne inteligencije ograničenog rizika trebali bi ispunjavati minimalne zahtjeve transparentnosti koji bi korisnicima omogućili donošenje informiranih odluka. Nakon interakcije s aplikacijama, korisnik može odlučiti želi li je nastaviti koristiti. Korisnici bi trebali biti svjesni kada su u interakciji s umjetnom inteligencijom. To uključuje AI sustave koji generiraju ili manipuliraju slikovnim, audio ili video sadržajem, na primjer deepfakeovima.

Sljedeći koraci

Zastupnici Europskog parlamenta usvojili su 14. lipnja 2023 Pregovaračko stajalište Sabora o Zakonu o AI. Sada će započeti razgovori sa zemljama EU u Vijeću o konačnom obliku zakona.

Cilj je postići dogovor do kraja ove godine.