IWF poziva na zatvaranje 'rupe' u predloženim zakonima EU-a kojima se kriminalizira seksualno zlostavljanje djece umjetnom inteligencijom, jer sintetički videozapisi postižu 'ogromne skokove' u sofisticiranosti

Novi podaci otkrivaju da se seksualno zlostavljanje djece generirano umjetnom inteligencijom nastavlja širiti online jer kriminalci stvaraju realističnije i ekstremnije slike. Najveća europska telefonska linija za pomoć potvrđuje 400% više prijava web stranica koje prikazuju slike seksualnog zlostavljanja djece generirane umjetnom inteligencijom nego u ovo doba prošle godine.

Broj otkrivenih videozapisa seksualnog zlostavljanja djece s umjetnom inteligencijom naglo je porastao s 1,286 u usporedbi sa samo dva u istom razdoblju prošle godine.

Poziv Vijeću EU-a da preispita svoj stav o Direktivi o seksualnom zlostavljanju djece koja dopušta posjedovanje slika seksualnog zlostavljanja djece izrađenih umjetnom inteligencijom za 'osobnu upotrebu'.

Brzo poboljšanje tehnologije znači da su videozapisi seksualnog zlostavljanja djece generirani umjetnom inteligencijom sada "nerazlučivi" od stvarnih slika, kažu stručnjaci iz Zaklade za internetsko praćenje (IWF), najveće europske telefonske linije posvećene pronalaženju i uklanjanju materijala o seksualnom zlostavljanju djece na internetu.

Novi podaci, koje je danas (petak, 11. srpnja) objavio IWF, pokazuju da su potvrđena izvješća o slikama seksualnog zlostavljanja djece pomoću umjetne inteligencije porasla za 400%, a seksualno zlostavljanje djece pomoću umjetne inteligencije otkriveno je na 210 web stranica u prvih šest mjeseci 2025. (od 1. siječnja do 30. lipnja).

U istom razdoblju 2024. godine, analitičari IWF-a pronašli su slike seksualnog zlostavljanja djece izrađene umjetnom inteligencijom na 42 web stranice.

Uznemirujuće je da je broj videa generiranih umjetnom inteligencijom naglo porastao u ovom razdoblju, s U prvoj polovici ove godine otkriveno je 1,286 pojedinačnih videozapisa seksualnog zlostavljanja djece snimljenih umjetnom inteligencijom u usporedbi sa samo dva u istom razdoblju prošle godine.

Od tih potvrđenih videozapisa seksualnog zlostavljanja djece, 1,006 je ocijenjeno kao najekstremniji (kategorija A) prikazi prema zakonu - videozapisi koji mogu prikazivati ​​silovanje, seksualno mučenje ili bestijalnost.

Svi videozapisi umjetne inteligencije koje je IWF do sada ove godine potvrdio toliko su uvjerljivi da se prema britanskom zakonodavstvu moraju tretirati točno kao da su autentične snimke. Zakonodavstvo EU još se izričito ne bavi sintetičkim slikama zlostavljanja, ali zakonodavci trenutno pregovaraju o ažuriranju Direktive o seksualnom zlostavljanju djece iz 2011., koja ima za cilj zatvoriti tu prazninu.

Međutim, ta dobrotvorna organizacija upozorava da trenutni pristup Vijeća EU-a predloženoj preinačenoj Direktivi sadrži duboko zabrinjavajuću rupu u zakonu koja bi omogućila posjedovanje slika seksualnog zlostavljanja djece generiranih umjetnom inteligencijom za „osobnu upotrebu“.

Kako napreduju trenutni pregovori o zakonodavstvu, IWF poziva Vijeće da uskladi svoj stav sa stavom EU parlamenta uklanjanjem iznimke za osobnu upotrebu slika i videozapisa generiranih umjetnom inteligencijom te osiguravanjem snažne kriminalizacije stvaranja, posjedovanja i distribucije priručnika i modela o seksualnom zlostavljanju djece generiranih umjetnom inteligencijom diljem EU-a.

Derek Ray-Hill, privremeni glavni izvršni direktor IWF-a, rekao je: „Moramo učiniti sve što možemo kako bismo spriječili poplavu sintetičkog i djelomično sintetičkog sadržaja koji se pridružuje već rekordnim količinama seksualnog zlostavljanja djece s kojima se borimo na internetu. Zaprepašten sam što vidim da se tehnologija nastavlja razvijati brzim tempom i da se i dalje zlostavlja na nove i uznemirujuće načine.“

„Baš kao što smo vidjeli sa statičnim slikama, videozapisi seksualnog zlostavljanja djece dobiveni umjetnom inteligencijom sada su dosegli točku u kojoj se ne mogu razlikovati od pravih filmova. Prikazana djeca često su stvarna i prepoznatljiva, šteta koju ovaj materijal nanosi je stvarna, a prijetnja koju predstavlja prijeti da će se još više eskalirati.“

IWF kaže da je kvaliteta slike videozapisa seksualnog zlostavljanja djece generiranih umjetnom inteligencijom znatno porasla u protekloj godini te da kriminalci sada stvaraju videozapise seksualnog zlostavljanja djece generirane umjetnom inteligencijom u velikim razmjerima - ponekad uključujući i likove stvarne djece. Vrlo realistični videozapisi zlostavljanja više nisu ograničeni na vrlo kratke isječke pune grešaka, a potencijal kriminalaca da stvore još duže i detaljnije videozapise postaje stvarnost.

Analitičari također upozoravaju da seksualno zlostavljanje djece generirano umjetnom inteligencijom postaje sve "ekstremnije" jer kriminalci postaju vještiji u stvaranju i prikazivanju novih opscenih scenarija.

Ray-Hill je dodao: „Ne može postojati opravdana iznimka za osobno posjedovanje ili konzumaciju slika i videozapisa umjetne inteligencije koji prikazuju seksualno zlostavljanje i mučenje djece. Djeca su u tom procesu ozlijeđena, a umjetna inteligencija uvećava tu štetu. Predatori koriste ovu tehnologiju za izradu novih slika poznate djece žrtava dobivenih umjetnom inteligencijom kako bi odgovarale njihovim osobnim sklonostima. A u nekim slučajevima, postojeće slike seksualnog zlostavljanja djece korištene su u skupovima podataka za obuku generatora umjetne inteligencije.“

„EU čini velike korake u vezi s ovim ključnim pitanjem i ne smije posustati. Pozivamo Vijeće da preispita svoj stav i uskladi se s Europskim parlamentom kako bi se donijelo zakonodavstvo koje je prikladno za svoju svrhu i osigurava da preživjeli budu u središtu svih donesenih odluka.“

IWF ima jedinstvene ovlasti* za proaktivno pronalaženje slika seksualnog zlostavljanja djece na internetu. Zbog toga su njegovi obučeni i iskusni analitičari često prvi koji otkrivaju nove načine na koje kriminalci zloupotrebljavaju tehnologiju.

Jeff je viši analitičar u IWF-u specijaliziran za umjetnu inteligenciju. Rekao je: „Što se tiče kvalitete videa, kreatori slika seksualnog zlostavljanja djece su daleko ispred onoga što su bili prošle godine.“

„Prvi videozapisi seksualnog zlostavljanja djece snimljeni umjetnom inteligencijom koje smo vidjeli bili su deepfakeovi – lice poznate žrtve stavljeno na glumca u postojećem pornografskom videu za odrasle. Nije bilo sofisticirano, ali je ipak moglo biti prilično uvjerljivo. Prvi potpuno sintetički videozapis seksualnog zlostavljanja djece koji smo vidjeli početkom prošle godine bio je samo niz trzavih slika spojenih zajedno, ništa uvjerljivo.“

„Ali sada su stvarno prešli rub događaja. Kvaliteta je alarmantno visoka, a prikazane kategorije prekršaja postaju sve ekstremnije kako se alati poboljšavaju u svojoj sposobnosti generiranja videa koji prikazuju dvije ili više osoba. Videozapisi također uključuju setove koji prikazuju poznate žrtve u novim scenarijima.“

„Baš kao što su statične slike postale fotorealistične kako se potražnja povećavala, a alati poboljšavali, bilo je samo pitanje vremena kada će i videozapisi krenuti istim putem.“

Analitičari IWF-a također upozoravaju da se sofisticiranost i realizam ovih videa još uvijek razvijaju, a postoje naznake da ni sami kriminalci ne mogu vjerovati koliko je lako stvoriti slike seksualnog zlostavljanja djece pomoću alata umjetne inteligencije.

Jedan počinitelj, pišući na online forumu, rekao je: „Tehnologija se tako brzo razvija – baš kad konačno shvatim kako koristiti alat, pojavi se nešto novije i bolje.“

Podijelite ovaj članak: