EU daje 1.8 milijuna funti financiranja za izradu nove aplikacije namijenjene smanjenju internetskog gledanja sadržaja seksualnog zlostavljanja djece

Bit će stavljen na test na volonterima koji su zatražili pomoć zbog svoje privlačnosti prema nedopuštenim slikama kako bi bili sigurni da se ne mogu prepustiti svojoj žudnji.

Kada se instalira na uređaj, poput telefona, program će prepoznati i spriječiti prikaz uvredljivih slika i videa.

Vjeruje se da će to pomoći u smanjenju "sve veće potražnje" za fotografijama zlostavljanja djece.

Organizacije iz EU i UK udružile su snage na projektu Protech.

Projektna aplikacija Salus, koja koristi umjetnu inteligenciju za prepoznavanje potencijalno pornografskih informacija i sprječavanje korisnika da ih vide, dizajnirana je za rad u stvarnom vremenu.

Internet Watch Foundation, organizacija koja radi na pronalaženju, označavanju i uklanjanju materijala o zlostavljanju djece, pomoći će u obuci AI tehnologije koju je razvila britanska tvrtka SafeToNet.

Tom Farrell iz SafeToNeta, koji je 19 godina radio u policiji, rekao je za BBC da aplikacija nije bila namijenjena kao alat za prijavu korisnika policiji: "Ljudi koji se dobrovoljno žele spriječiti da vide materijal o seksualnom zlostavljanju djece sasvim jasno ne bi Ne koriste takvo rješenje ako vjeruju da će ih prijaviti policiji."

Oglas

'Praktična pomoć'

Volonteri koji preuzmu aplikaciju bit će regrutirani putem organizacija koje rade s pojedincima koji traže pomoć jer ih privlače slike zlostavljanja djece na internetu.

Jedna takva organizacija je britanska dobrotvorna ustanova Lucy Faithfull Foundation, koja vodi liniju za pomoć onima koji se boje da bi mogli preuzeti ilegalne slike i žele prestati. To uključuje značajan broj ljudi koji priznaju da su pedofili, od kojih su neki već osuđivani.

Donald Findlater iz zaklade rekao je da bi alati poput nove aplikacije mogli pomoći pojedincima da kontroliraju svoje ponašanje, dodajući: "to je praktična pomoć ljudima koji u sebi prepoznaju ranjivost".

Članovi projekta Protech nadaju se da bi mogao zaustaviti "rastuću potražnju za materijalom o seksualnom zlostavljanju djece na internetu".

Novi rekord od 30,925 prekršaja koji su uključivali posjedovanje i dijeljenje nepristojnih slika djece počinjen je u godini 2021./2022., prema NSPCC-u.

Prošle godine a prijaviti Police Foundation thinktank rekao je da je količina online kaznenih djela seksualnog zlostavljanja djece "jednostavno nadjačala sposobnost agencija za provođenje zakona, na međunarodnoj razini, da reagiraju".

Članovi projekta koji su razgovarali s BBC-jem sugerirali su da sama policija neće spriječiti ljude da preuzimaju slike.

G. Farrell tvrdi da je Ujedinjeno Kraljevstvo uhitilo više pojedinaca zbog posjedovanja materijala o seksualnom zlostavljanju djece nego bilo koja druga zemlja u svijetu od 2014. i da je u tom procesu identificirano nekoliko vrlo ozbiljnih počinitelja.

Ali milijuni ljudi još uvijek gledaju slike

"Dakle, uhićenje neće biti rješenje. Mislimo da možemo raditi na prevenciji i smanjiti potražnju i smanjiti dostupnost."

'Pilot faza'

Mnoge pojedinosti o radu aplikacije tek treba razraditi. Nijedna umjetna inteligencija nije savršena i morat će se pronaći ravnoteža između prekomjernog blokiranja - što bi otežalo legitimnu upotrebu uređaja - i premalog blokiranja - koje ne otkriva mnoge slike zlostavljanja.

G. Farrell kaže da će aplikacija biti testirana u "pilot fazi" u pet zemalja - Njemačkoj, Nizozemskoj, Belgiji, Republici Irskoj i Velikoj Britaniji s najmanje 180 korisnika u razdoblju od 11 mjeseci.

I stručnjaci koji nisu uključeni u projekt smatraju da ideja obećava.

Profesorica Belinda Winder sa Sveučilišta Nottingham Trent rekla je da je to dobrodošao razvoj koji bi mogao podržati ljude koji "žele da im se pomogne da se odupru svojim nezdravim porivima i koji bi imali koristi od ove sigurnosne mreže".

Kao i sa svim novim tehnološkim alatima, vrag se krije u detaljima i prof Winder je imao pitanja o tome kako bi to funkcioniralo u praksi, ali je rekao: "To je pozitivan korak u pravom smjeru."

Podijelite ovaj članak: