Može li pametna strategija #AI uvjeriti EU da se umjerenost sadržaja #Facebook-a može izgubiti?

17. veljače, tijekom susreta s europskim kreatorima politika u Bruxellesu, izvršni direktor Facebooka Mark Zuckerberg (na slici) objavio je bijeli papir u kojem je iznio svoju strategiju suočavanja sa štetnim sadržajem na platformama društvenih medija. Kao odgovor na želju Europske unije da pojača nadzor nad tehnološkim sektorom, milijarder je ustvrdio da industriju treba regulirati na globalnoj, a ne lokalnoj razini.

Ustvrdio je da treba ograničiti odgovornost tehnoloških tvrtki za štetni sadržaj na njihovim platformama - sve dok postoje efikasni sustavi za moderiranje sadržaja. Zuckerbergovi su prijedlozi, međutim, u Bruxellesu dobili izrazito mračan prijem. Čak i nakon susreta sa Zuckerbergom, EU je tvrdila da je novi prijedlog za moderiranje sadržaja Facebooka promašio na mnogim frontovima, posebno ne uspijevajući odrediti konkretne korake koje će platforma poduzeti u borbi protiv ilegalnog sadržaja na mreži. "Nije dovoljno. Suviše je sporo, prenisko je u smislu odgovornosti i regulacije ", rekao je povjerenik za strategiju podataka Thierry Breton nakon sjednice s najvišim izvršnim direktorom Facebooka.

Gdje nedostaje trenutni Facebook sustav?

Tehnički divovi imaju prilično uski prozor u kojem mogu uvjeriti europske tvorce politika da su vlastiti napori u suzbijanju problematičnih sadržaja dovoljni. Komisija o Zakonu o digitalnim uslugama, dugo očekivanoj reviziji EU-ove 20-godišnje direktive o e-trgovini, planira se objaviti krajem ove godine. Kao što je Breton napomenuo, „ako vidimo da [Facebook vlastiti postupak moderiranja sadržaja] nije ono što nam je potrebno u vezi s našim vlastitim standardima, to ćemo morati regulirati i staviti u svoj [Zakon o digitalnim uslugama]“.

Facebook je odlučan u stanju da sam riješi problem umjerenosti sadržaja - koristeći napredak u umjetnoj inteligenciji (AI) i strojno učenje kako bi poboljšao svoj trenutni sustav. Trnovit zadatak identificiranja i uklanjanja problematičnog materijala trenutačno je dodijeljen profesionalcima treće strane koji koriste svoje diskrecijsko pravo da utvrde zašto su slika ili videozapis nepoželjni.

Oslanjanje na takav ljudski nadzor problematično je s obzirom na jezivu prirodu nekih moderatora sadržaja koji su prisiljeni prosijati - činjenica da su zaposlenici koji moderiraju sadržaj za Facebook u Lisabonu, Dublinu i Varšavi svjedočili da im je posao dao da PTSP zasigurno podigne crvene zastave u europskim institucijama. Pored toga, učinkovitost ljudske umjerenosti dovedena je u pitanje nakon što Facebook više puta nije uspio brzo ukloniti štetni sadržaj poput live streaminga 2019. godine napada Christchurch džamije.

AI može priključiti neke Facebookove slijepe točke

Oglas

Umjetna inteligencija može značajno smanjiti takvu ovisnost o ljudskoj umjerenosti. Algoritmi obučeni za strojno učenje mogu podržati moderatore ne samo smanjenjem izloženosti štetnim internetskim sadržajima, nego i povećanjem njihove produktivnosti i točnosti. Facebook tvrdi da su dosad vidjeli obećavajuće rezultate u svojim eksperimentima s AI - prema platformi, platforma je tijekom druge polovice 2019. uspjela označiti 99.8% grafičkog sadržaja i 99.5% golotinje i iskorištavanja djece čak i prije nego što su ih korisnici obavijestili. , Naravno, tehnologija i dalje treba finetuning - algoritmi za moderiranje sadržaja utemeljeni na AI i dalje se posebno bore s prepoznavanjem nijansi govora mržnje - na primjer, ono što Europsku uniju posebno zanima.

Štoviše, Europska unija je oprezna omogućiti Facebooku da besplatno preuzme vlast u korištenju tako osjetljive tehnologije kao što je AI. Zabrinutosti uglavnom proizlaze iz lošeg iskustva Facebooka u ispunjavanju europskih standarda transparentnosti - povećavajući spektar da bi tvrtka mogla razviti „algoritme crne kutije“ sprječavajući revizije treće strane ili vlade na platformi.

U središtu digitalne politike - koju je prošlog tjedna objavila šefica EU za digitalni car i konkurenciju Margrethe Vestager - regulira način na koji kompanije koriste umjetnu inteligenciju. Iako EU želi da vlade nadgledaju rizičnije aspekte, poput korištenja tehnologije prepoznavanja lica, mnoge aplikacije u europskom dvorištu demonstriraju kako se ona može koristiti i sigurno i učinkovito. Može li Facebook uzeti znak od njih?

Aplikacije društvenih medija sljedećeg gena daju svoj značaj inovativno koristeći AI

Posebno je jedna europska aplikacija kreativno iskoristila umjetnu inteligenciju kako bi svojim mladim korisnicima osigurala sigurnije i ugodnije iskustvo. Yubo, aplikacija za prijenos uživo u dobi od 13 do 25 godina, oslanja se na ravnotežu između složenih algoritama i educiranje mladih o štetama na mreži kako bi svojih 20 milijuna korisnika bilo sigurno na platformi. Pažljivo uvježban algoritam otkriva problematične sadržaje poput golotinje ili samo nekoga u donjem rublju u streamu - a to je kada pokreće Yubo intervencijski sustav u stvarnom vremenu, a korisnicima šalje poruku upozorenja koja objašnjava zašto je takvo ponašanje prigovorno. Ako korisnik ne popravi svoje ponašanje, stream se može isključiti na daljinu.

Kako bi se osiguralo da je aplikacija rezervirana za tinejdžere i mlade odrasle osobe, Yubo je u međuvremenu sklopio partnerstvo s popularnim pružateljem digitalnog identiteta sa sjedištem u Velikoj Britaniji, Yoti, koji odgovara preuzetim identifikacijskim dokumentima u selfieje korisnika pomoću softvera za prepoznavanje lica. Yoti-jeva tehnologija - koja se takođe koristi u supermarketima kako bi bila sigurna da mlađi od 18 godina ne kupuju robu ograničenu kao što su cigarete ili alkohol - može se zaposliti u drugim aplikacijama za društvene mreže da bi "postarali" svoju zajednicu ili kako bi bili sigurni da su korisnici za koga kažu da jesu.

Yubovi pokušaji ubrizgavanja problematičnog internetskog sadržaja u kombinaciju - kombinirajući računalno potpomognuto moderiranje s senzibiliziranjem mladih korisnika na obaveze i dobre stvari u internetskom protokolu - napravili su ploh u tehnološkom sektoru. Oni bi također trebali pružiti ohrabrujući primjer kako tehnološkim divovima poput Facebooka, tako i regulatorima poput Europske unije da platforme društvenih medija mogu uspostaviti zdravu ravnotežu između pretjerane ovisnosti o AI ili ljudskom nadzoru.

Umjetna inteligencija nije lijek za sve izazove s kojima se susreću platforme društvenih medija. Kako Facebook želi uvjeriti EU da je u stanju moderirati vlastiti sadržaj, međutim, dobro bi mu bilo poslužiti ako uzme znak iz aplikacija nove generacije koje su uspjele razviti holističku strategiju koja uključuje AI kako bi zaštitile svoje korisnike ,

Podijelite ovaj članak: