De douanedirecteur van het Child Exploitation Operations-team, Simon Peterson, onthulde een zorgwekkende toename van het materiaal van seksuele uitbuiting van kinderen digitaal gegenereerd in Nieuw-Zeeland.
Zoals gemeld door Stuff, drie overheidsinstanties, waaronder de douane, politie en het ministerie van Binnenlandse Zaken (DIA), bevestigde aanstootgevende inhoud te hebben gevonden die is gegenereerd door kunstmatige intelligentie in het land, na onderzoek naar soortgelijke gevallen in andere landen plaatsen.
Bekijk meer
Onderzoek toont aan dat tienerhersenen 'bedraad' zijn om...
PicPay brengt nu kosten in rekening voor inactiviteit; zien hoe het zal werken
Volgens Peterson onderschepte de douane onlangs een spel waarvan de inhoud seksueel misbruik van kinderen weergaf, waardoor de bezorgdheid over het gebruik van AI in deze context toenam. Hij wees erop dat hoewel het concept van dergelijke praktijken niet nieuw is, het vermogen van AI om steeds realistischere beelden te produceren de situatie problematischer en zorgwekkender maakt.
Stuart Mills, die manager is van onderschepping en technologieoperaties en rechercheur-inspecteur, sprak de zijne uit bezorgdheid over het misbruik van kunstmatige intelligentie om beelden te genereren die het seksueel misbruik van minderjarigen.
"Dit is een internationaal probleem waarmee wetshandhavers te maken hebben", zei de rechercheur.
We hebben een aanzienlijke achterstand ingelopen met materiaal over seksuele uitbuiting van kinderen, inclusief digitaal geproduceerde afbeeldingen”, aldus een DIA-vertegenwoordiger.
Volgens hem wordt sinds het begin van de jaren 2000 digitaal gemaakt misbruikmateriaal door de douane in beslag genomen, traditioneel met tools als Photoshop. Op dit moment wordt echter content die “volledig door AI” is geproduceerd, onderschept.
Hij verduidelijkt dat bijna een kwart van de momenteel in beslag genomen inhoud digitaal wordt geproduceerd.
“De moeilijkheid met het AI-platform is de universele toegankelijkheid. Ik zou willen zeggen dat we buitengewoon bedreven zijn in het identificeren van vervalsingen, maar AI kan erg overtuigend zijn, "zei hij. "Het is mogelijk dat iemand AI gebruikt om iets te creëren en we kunnen het verschil niet zien", voegde hij eraan toe.
Hij herhaalde dat AI slechts de nieuwste technologische grens is die wordt binnengevallen door pedofielen, volgens hetzelfde patroon als internet en later sociale media.
“Het maakte kindermishandeling toegankelijker. Een beangstigend vooruitzicht', vervolgde de deskundige. “Afgezien van het feit dat deze afbeeldingen worden gedeeld, verkocht of verhandeld, zullen door AI gegenereerde afbeeldingen dat waarschijnlijk ook zijn wordt gebruikt door criminelen om jonge slachtoffers online te manipuleren en te dwingen in gevallen van misdrijven zoals sextortion, " afgerond.
