Child Exploitation Operations-teamets tolldirektør, Simon Peterson, avslørte en bekymringsfull økning i materiale fra seksuell utnyttelse av barn digitalt generert i New Zealand.
Som rapportert av Stuff, tre offentlige etater, inkludert tollvesenet, politiet og Department of Home Affairs (DIA), bekreftet å ha funnet støtende innhold generert av kunstig intelligens i landet, etter henvendelser fra lignende saker i andre land steder.
se mer
Forskning viser at tenåringshjerner er "kablet" til...
PicPay vil nå kreve et gebyr for inaktivitet; se hvordan det vil fungere
Ifølge Peterson fanget tollvesenet nylig et spill hvis innhold avbildet seksuelle overgrep mot barn, noe som øker bekymringen for bruken av AI i denne sammenhengen. Han påpekte at selv om konseptet med slik praksis ikke er nytt, gjør AIs evne til å produsere stadig mer realistiske bilder situasjonen mer problematisk og bekymringsfull.
Stuart Mills, som er leder for avlytting og teknologioperasjoner og detektivinspektør, uttrykte sitt bekymring for misbruk av kunstig intelligens for å generere bilder som symboliserer seksuelle overgrep av mindreårige.
"Dette er et spørsmål som rettshåndhevelse står overfor internasjonalt," sa etterforskeren.
Vi har beslaglagt et betydelig etterslep av materiale som involverer seksuell utnyttelse av barn, inkludert digitalt produserte bilder, sa en DIA-representant.
Ifølge ham har digitalt laget overgrepsmateriale blitt konfiskert av tollvesenet siden tidlig på 2000-tallet, tradisjonelt ved bruk av verktøy som Photoshop. Imidlertid blir innhold produsert "helt av AI" for tiden avlyttet.
Han presiserer at nesten en fjerdedel av innholdet som nå er pågrepet er produsert digitalt.
"Vanskeligheten med AI-plattformen er dens universelle tilgjengelighet. Jeg vil gjerne si at vi er ekstremt flinke til å oppdage forfalskninger, men AI kan være veldig overbevisende, sa han. "Det er mulig at noen bruker AI for å skape noe, og vi kan ikke se forskjellen," la han til.
Han gjentok at AI bare er den siste teknologiske grensen som blir invadert av pedofile, etter samme mønster som internett og senere sosiale medier.
«Det gjorde barnemishandling mer tilgjengelig. Et skremmende perspektiv, fortsatte eksperten. "Bortsett fra at disse bildene blir delt, solgt eller handlet, er det sannsynligvis AI-genererte bilder blir brukt av kriminelle til å manipulere og tvinge unge ofre på nett i tilfeller av lovbrudd som sextortion.» ferdig.
