Umjetna inteligencija: prijetnje i mogućnosti

Europski rast i bogatstvo usko su povezani s načinom na koji će koristiti podatke i povezane tehnologije. AI može bitno promijeniti naš život i društvo - u dobru i zlu - i Europski parlament osnovao je odbor kako bi se ispitao utjecaj tehnologije. Ispod su neke ključne prilike i prijetnje povezane s budućim aplikacijama AI.

Pročitajte više o tome što je umjetna inteligencija i kako se koristi.

Prednosti AI

Zemlje EU-a već su snažne u digitalnoj industriji i poslovnim aplikacijama. S visokokvalitetnom digitalnom infrastrukturom i regulatornim okvirom koji štiti privatnost i slobodu govora, EU bi to mogla postati globalni lider u podatkovnoj ekonomiji i njezinim aplikacijama.

Prednosti AI za ljude

AI bi mogao pomoći ljudima s poboljšanom zdravstvenom zaštitom, sigurnijim automobilima i drugim transportnim sustavima, prilagođenim, jeftinijim i dugotrajnijim proizvodima i uslugama. Također može olakšati pristup informacijama, obrazovanju i osposobljavanju. Potreba za učenjem na daljinu postala je važnija zbog Pandemija COVID-19. AI također može učiniti radno mjesto sigurnijim, jer se roboti mogu koristiti za opasne dijelove poslova, i otvoriti nova radna mjesta kako industrije i AI pokretači rastu i mijenjaju se.

Oglas

Prilike umjetne inteligencije za tvrtke

Za tvrtke AI može omogućiti razvoj nove generacije proizvoda i usluga, uključujući u sektorima u kojima europske tvrtke već imaju snažne pozicije: zeleno i kružno gospodarstvo, strojevi, poljoprivreda, zdravstvo, moda, turizam. Može povećati prodaju, poboljšati održavanje strojeva, povećati proizvodnju i kvalitetu, poboljšati korisničku uslugu, kao i uštedjeti energiju.

AI mogućnosti u javnim službama

AI koji se koristi u javnim službama može smanjiti troškove i ponuditi nove mogućnosti u javnom prijevozu, obrazovanju, energiji i gospodarenju otpadom, a također može poboljšati održivost proizvoda. Na taj način AI bi mogao doprinijeti postizanju ciljeva Zelena ponuda EU.

Jačanje demokracije

Demokracija se može ojačati korištenjem nadzora na temelju podataka i sprečavanja dezinformacija i cyber napada i osiguravanje pristupa kvalitetnim informacijama. AI bi također mogao podržati raznolikost i otvorenost, na primjer ublažavanjem mogućnosti predrasuda prilikom donošenja odluka o zapošljavanju i korištenjem analitičkih podataka.

AI, sigurnost i sigurnost

Predviđa se da će se umjetna inteligencija više koristiti u prevenciji kriminala i kaznenopravnom sustavu, jer bi se masivni skupovi podataka mogli brže obrađivati, točnije procjenjivati ​​rizici od bijega zatvorenika, predviđati i sprečavati kriminal ili čak teroristički napadi. Mrežne platforme već ga koriste za otkrivanje i reagiranje na nezakonito i neprikladno mrežno ponašanje.

U vojnim stvarima, AI se može koristiti za strategije obrane i napada u hakiranju i krađi identiteta ili za ciljanje ključnih sustava u kibernetičkom ratovanju, dok je ključna prednost autonomnih oružnih sustava mogućnost sudjelovanja u oružanom sukobu uz smanjeni rizik od tjelesne ozljede.

Prijetnje i izazovi AI

Sve veće oslanjanje na AI sustave također predstavlja potencijalne rizike.

Premala upotreba i prekomjerna upotreba AI

Nedovoljna upotreba umjetne inteligencije smatra se glavnom prijetnjom: propuštene prilike za EU mogu značiti lošu provedbu glavnih programa, poput Zelenog sporazuma EU, gubitak konkurentske prednosti u odnosu na druge dijelove svijeta, gospodarsku stagnaciju i lošije mogućnosti za ljude. Premalo iskorištavanje moglo bi proizaći iz nepovjerenja javnosti i poduzeća u AI, loše infrastrukture, nedostatka inicijative, niskih ulaganja ili, budući da AI-jevo strojno učenje ovisi o podacima, iz usitnjenih digitalnih tržišta.

Prekomjerna upotreba također može biti problematična: ulaganje u aplikacije za umjetnu inteligenciju koje se pokažu nekorisnima ili primjenu umjetne inteligencije na zadatke za koje nije prikladan, na primjer koristeći je za objašnjavanje složenih društvenih problema.

Odgovornost: Tko je odgovoran za štetu uzrokovanu AI?

Važan je izazov utvrditi tko je odgovoran za štetu uzrokovanu uređajem ili uslugom kojim upravlja AI: u nesreći u kojoj se vozi samovozeći automobil. Treba li štetu prekršiti vlasnik, proizvođač automobila ili programer?

Da je proizvođač apsolutno bez odgovornosti, možda ne bi postojao poticaj za pružanje dobrih proizvoda ili usluga i mogao bi naštetiti povjerenju ljudi u tehnologiju; ali propisi bi također mogli biti prestrogi i ugušiti inovacije.

Prijetnje AI temeljnim pravima i demokraciji

Rezultati koje AI daje ovise o tome kako je dizajniran i koje podatke koristi. I dizajn i podaci mogu biti namjerno ili nenamjerno pristrani. Na primjer, neki važni aspekti problema možda neće biti programirani u algoritam ili mogu biti programirani da odražavaju i repliciraju strukturne pristranosti. Uz to, upotreba brojeva za predstavljanje složene društvene stvarnosti mogla bi učiniti da se AI čini stvarnim i preciznim kad nije. To se ponekad naziva i pranje matematike.

Ako se ne učini pravilno, AI bi mogao dovesti do odluka na koje utječu podaci o etničkoj pripadnosti, spolu, dobi prilikom zapošljavanja ili otpuštanja, nuđenja zajmova ili čak u kaznenom postupku.

AI bi mogao ozbiljno utjecati na pravo na privatnost i zaštitu podataka. Može se primjerice koristiti u opremi za prepoznavanje lica ili za internetsko praćenje i profiliranje pojedinaca. Uz to, AI omogućuje spajanje podataka koje je osoba dala u nove podatke, što može dovesti do rezultata koje osoba ne bi očekivala.

To također može predstavljati prijetnju demokraciji; AI je već optužen za stvaranje internetskih odjeka na temelju prethodnog ponašanja neke osobe na mreži, prikazujući samo sadržaje koje bi osoba željela, umjesto da stvara okruženje za pluralnu, jednako dostupnu i uključivu javnu raspravu. Može se čak koristiti za stvaranje izuzetno realnih lažnih videozapisa, zvuka i slika, poznatih kao deepfakes, koji mogu predstavljati financijske rizike, naštetiti ugledu i izazvati donošenje odluka. Sve bi to moglo dovesti do razdvajanja i polarizacije u javnoj sferi i manipuliranja izborima.

AI bi također mogao igrati ulogu u šteti slobodi okupljanja i prosvjeda jer bi mogao pratiti i profilirati pojedince povezane s određenim uvjerenjima ili postupcima.

Utjecaj AI na radna mjesta

Očekuje se da će uporaba AI na radnom mjestu rezultirati ukidanjem velikog broja radnih mjesta. Iako se također očekuje da će AI stvoriti i stvoriti bolja radna mjesta, obrazovanje i osposobljavanje imat će ključnu ulogu u sprečavanju dugotrajne nezaposlenosti i osiguranju kvalificirane radne snage.

Skupljanje informacija također bi moglo dovesti do narušavanja konkurencije jer bi tvrtke s više informacija mogle steći prednost i učinkovito eliminirati konkurente.

Sigurnosni i sigurnosni rizici

Aplikacije AI koje su u fizičkom kontaktu s ljudima ili su integrirane u ljudsko tijelo mogu predstavljati sigurnosni rizik jer mogu biti loše dizajnirane, zloupotrijebljene ili hakirane. Loše regulirana upotreba umjetne inteligencije u oružju mogla bi dovesti do gubitka ljudske kontrole nad opasnim oružjem.

Izazovi transparentnosti

Mogla bi se iskoristiti neravnoteža pristupa informacijama. Na primjer, na temelju ponašanja neke osobe na mreži ili drugih podataka i bez njihovog znanja, mrežni dobavljač može koristiti AI za predviđanje da je netko spreman platiti ili politička kampanja može prilagoditi njegovu poruku. Drugo je pitanje transparentnosti to što ljudima ponekad može biti nejasno komuniciraju li s AI ili nekom osobom.