Child Exploitation Operations-teamets tullchef, Simon Peterson, avslöjade en oroande ökning av material från sexuellt utnyttjande av barn digitalt genererade i Nya Zeeland.
Som rapporterats av Stuff, tre statliga myndigheter, inklusive tullen, polisen och Department of Home Affairs (DIA), bekräftat att ha hittat stötande innehåll som genererats av artificiell intelligens i landet, efter förfrågningar från liknande fall i andra länder platser.
se mer
Forskning visar att tonårshjärnor är "kopplade" till...
PicPay kommer nu att ta ut en avgift för inaktivitet; se hur det kommer att fungera
Enligt Peterson avlyssnade tullen nyligen ett spel vars innehåll skildrade sexuella övergrepp mot barn, vilket ökade oron för användningen av AI i detta sammanhang. Han påpekade att även om konceptet med sådana metoder inte är nytt, gör AI: s förmåga att producera allt mer realistiska bilder situationen mer problematisk och oroande.
Stuart Mills, som är chef för avlyssning och teknikverksamhet och detektivinspektör, uttryckte sitt oro för missbruk av artificiell intelligens för att skapa bilder som symboliserar sexuella övergrepp av minderåriga.
"Det här är en fråga som brottsbekämpande myndigheter står inför internationellt", sa detektiven.
Vi har beslagtagit en betydande eftersläpning av material som involverar sexuellt utnyttjande av barn, inklusive digitalt producerade bilder, säger en DIA-representant.
Enligt honom har digitalt skapat övergreppsmaterial konfiskerats av tullen sedan början av 2000-talet, traditionellt med hjälp av verktyg som Photoshop. Men innehåll som producerats "helt av AI" avlyssnas för närvarande.
Han förtydligar att nästan en fjärdedel av det för närvarande gripna innehållet produceras digitalt.
"Svårigheten med AI-plattformen är dess universella tillgänglighet. Jag skulle vilja påstå att vi är extremt skickliga på att identifiera förfalskningar, men AI kan vara mycket övertygande”, sa han. "Det är möjligt att någon använder AI för att skapa något och vi kan inte se skillnad", tillade han.
Han upprepade att AI bara är den senaste tekniska gränsen som invaderas av pedofiler, enligt samma mönster som internet och senare sociala medier.
"Det gjorde övergrepp mot barn mer tillgängligt. En skrämmande utsikt, fortsatte experten. "Förutom att dessa bilder delas, säljs eller handlas, kommer AI-genererade bilder sannolikt att vara det används av brottslingar för att manipulera och tvinga unga offer online i fall av brott som sextorkning.” färdiga.