Britanska organizacija Internet Watch Foundation (IWF) je predstavila rezultate raziskave o zaskrbljujočem trendu uporabe umetne inteligence za ustvarjanje posnetkov spolnih zlorab otrok. Na prve primere takšnih gradiv so naleteli leta 2023. Pri tem je šlo za pretvorbe besedil v sliko, pri čemer so uporabniki vnesli opise, algoritmi umetne inteligence pa so jih hitro in natančno spremenili v posnetke zlorab. Enostavnost uporabe in natančnost teh posnetkov predstavljata velik izziv, saj jih je praktično nemogoče razlikovati od resničnih posnetkov spolnih zlorab otrok.
Poročilo IWF izpostavlja zaskrbljujoče statistične podatke: v enem mesecu so na enem samem forumu na temnem spletu našli več kot 11.000 fotografij, ki so jih opredelili kot z umetno inteligenco ustvarjene posnetke spolnih zlorab otrok. Analitiki so presoji teh slik namenili veliko časa, kar kaže na to, da je boj proti posnetkom, ki jih generira umetna inteligenca, delovno intenziven in zahteva veliko virov.
V poročilu je poudarjeno tveganje nadaljnjega razvoja tehnologije umetne inteligence, ki ima potencial za ustvarjanje še bolj realističnih vsebin, ki brišejo mejo med virtualnimi in resničnimi podobami. Ena od najbolj zaskrbljujočih je nevarnost ponavljajoče viktimizacije. Že znane žrtve spolnih zlorab otrok so namreč v nevarnosti, da postanejo tarče ponovnih zlorab z generiranjem novih posnetkov. Enako velja za javno znane otroke. Poleg tega lahko storilci tehnologijo umetne inteligence izkoriščajo za komercialne namene, kar ustvarja novo pot za zaslužek z nezakonitim generiranjem posnetkov zlorab. Pri IWF so že zabeležili tovrstne primere.
Poročilo se zaključuje s pozivom k proaktivnim ukrepom za obvladovanje vse večje grožnje PSZO, ki jih ustvarja umetna inteligenca. Ob priznavanju širšega družbenega potenciala umetne inteligence opozarja, da je treba nujno razviti strategije za preprečevanje njenih zlorab. V nasprotnem primeru obstaja nevarnost, da bodo organi kazenskega pregona preobremenjeni, izkoriščanje ranljivih otrok pa se bo še povečalo. Ker tehnologija umetne inteligence nenehno napreduje, poročilo poudarja nujnost prilagoditve pravnih in tehnoloških ureditev za učinkovit boj proti tej razvijajoči se grožnji za varnost otrok.
Vir: IWF
