Ujedinjeno Kraljevstvo sprema se postati prva zemlja koja će uvesti zakone protiv alata umjetne inteligencije koji se koriste za generiranje seksualiziranih slika djece, u pokušaju da obuzda fenomen za koji Ministarstvo unutarnjih poslova navodi da je u porastu.
Zaklada za nadzor interneta (IWF), britanska neprofitna organizacija usmjerena na borbu protiv online zlostavljanja, upozorila je na sve veći broj slika seksualnog zlostavljanja djece koje se proizvode pomoću umjetne inteligencije.
Tijekom 30-dnevnog razdoblja 2024. godine, analitičari IWF-a identificirali su 3512 slika zlostavljanja djece generiranih umjetnom inteligencijom na samo jednoj web stranici na dark webu. Britanska policija dijeli slike zlostavljanja djece u tri kategorije, a IWF otkriva da je broj slika u najozbiljnijoj od tih kategorija porastao za 10 posto u godini dana.
Zabrinutost zbog aplikacija temeljenih na umjetnoj inteligenciji koje mogu stvarati lažne seksualne slike djece potaknula je pozive na akciju.
U veljači ove godine, vlasti su objavile da će zabraniti posjedovanje, stvaranje ili distribuciju alata umjetne inteligencije koji generiraju zlostavljačke slike, a prekršitelji će se za počinjenje tih zločina suočiti sa do pet godina zatvora. Alati umjetne inteligencije koriste se za generiranje slika seksualnog zlostavljanja djece “nudifikacijom” slika djece iz stvarnog života ili “umetanjem lica druge djece na postojeće slike”.
U travnju je Engleska povjerenica za djecu Rachel de Souza pozvala na hitnu zabranu aplikacija za “nudifikaciju” kako bi se spriječilo generiranje seksualnih slika djece. Napredak u softveru umjetne inteligencije utro je put pojavi alata za „nudifikaciju“ i sve ih je lakše pronaći na društvenim mrežama ili tražilicama.
Radi se o aplikacijama i web stranicama koje izrađuju lažne gole slike stvarnih ljudi koristeći generativnu umjetnu inteligenciju. To može uključivati skidanje odjeće, sugestivno pomicanje slike ili ‘umetanje’ glave na golo tijelo. Rezultati često izgledaju vrlo realistično.
Alati umjetne inteligencije stvaraju slike učenjem iz postojećih slika i repliciranjem njihovih elemenata. Smatra se da su aplikacije za „nudifikaciju“ obučene na ogromnim skupovima podataka uglavnom ženskih slika i čini se da mnogi alati umjetne inteligencije djeluju samo na ženskim tijelima. Kao rezultat toga, procjenjuje se da 99% seksualno eksplicitnih deepfakeova dostupnih na internetu prikazuje žene i djevojčice, što – prema izvješću – potiče rastuću kulturu mizoginije.
Aplikacije umjetne inteligencije za “nudifikaciju” koje stvaraju lažne seksualne slike djece trebale bi se odmah zabraniti usred rastućeg straha među tinejdžericama da bi mogle postati žrtve, upozorila je De Souza. „Ne postoji pozitivan razlog za njihovo postojanje“, navedeno je u njezinom pozivu vladi Ujedinjenog Kraljevstva. Iako je ilegalno stvarati ili dijeliti seksualno eksplicitnu sliku djeteta, tehnologija koja im to omogućuje ostaje legalna, navodi se u izvješću.
“Djeca su mi rekla da ih plaši sama pomisao da je ova tehnologija uopće dostupna, a kamoli korištena. Boje se da bi bilo tko – stranac, kolega iz razreda ili čak prijatelj – mogao koristiti pametni telefon kao način manipuliranja njima stvaranjem gole slike pomoću ovih aplikacija”, rekla je povjerenica.
„Online svijet je revolucionaran i brzo se razvija. Alati koji koriste deepfake tehnologiju za stvaranje golih slika djece ne bi trebali biti legalni i pozivam vladu da poduzme odlučne mjere kako bi ih zabranila, umjesto da im dopusti da ostanu nekontrolirani s ekstremnim posljedicama u stvarnom svijetu.“
De Souza je pozvala vladu da uvede zakon o umjetnoj inteligenciji koji bi od programera GenAI alata zahtijevao da se pozabave rizicima koje njihovi proizvodi predstavljaju, te da uvedu učinkovite sustave za uklanjanje seksualno eksplicitnih deepfake slika djece. To bi trebalo biti potkrijepljeno donošenjem politika koje prepoznaju deepfake seksualno zlostavljanje kao oblik nasilja nad ženama i djevojčicama, predložila je.
U obrazloženju poziva na hitno djelovanje Ureda pravobraniteljice za djecu citirano je i istraživanje organizacije Girlguiding iz 2025. godine, koje je pokazalo da je 26% ispitanih u dobi od 13 do 18 godina vidjelo seksualno eksplicitnu deepfake sliku slavne osobe, prijatelja, učitelja ili sebe. U dokumentu se navodi i da postoji veza između zlostavljanja putem deepfakea i suicidalnih ideja te PTSP-a.
De Souza je u javnom pozivu naglasila da nova tehnologija „suočava djecu s konceptima koje još ne mogu razumjeti“ i mijenja se „u takvim razmjerima i brzinom da može biti preteško pokušati shvatiti opasnost koju predstavljaju“.
Pravna struka u Ujedinjenom Kraljevstvu tvrdi da se upravo to odražava i u porastu slučajeva uhićenja tinejdžera zbog seksualnih delikata, koji nisu razumjeli posljedice onoga što su radili, na primjer eksperimentiranja s deepfakeovima, sudjelovanja u WhatsApp chatu gdje kruže eksplicitne slike ili pretraživanja pornografije s djecom njihove dobi.
Marcus Johnstone, odvjetnik specijaliziran za seksualne delikte, izjavio je za The Guardian da radi sa „sve većim brojem mladih ljudi“ koji su uvučeni u ove zločine. „Često roditelji nisu imali pojma što se događa. Obično su to mladi muškarci, vrlo rijetko mlade žene, zaključani u svojim spavaćim sobama, a njihovi roditelji misle da se igraju“, rekao je. „Ovi prekršaji nisu postojali prije interneta, a sada se većina seksualnih zločina čini online. Stvorio se forum za djecu da postanu kriminalci.“
Gordana Ilić Ostojić
