Celní ředitel týmu Child Exploitation Operations Simon Peterson odhalil znepokojivý nárůst materiálu z sexuální zneužívání dětí digitálně generované na Novém Zélandu.
Jak uvádí Stuff, tři vládní agentury, včetně celníků, policie a ministerstva vnitra (DIA), potvrdili, že nalezli závadný obsah generovaný umělou inteligencí v zemi na základě dotazů vyplývajících z podobných případů v jiných zemích místa.
vidět víc
Výzkum ukazuje, že mozky dospívajících jsou „napojeny“ na…
PicPay bude nyní účtovat poplatek za nečinnost; uvidíte, jak to bude fungovat
Podle Petersona celní úřady nedávno zachytily hru, jejíž obsah zobrazoval sexuální zneužívání dětí, což v této souvislosti zvýšilo obavy z použití umělé inteligence. Poukázal na to, že i když koncept takových praktik není nový, schopnost AI produkovat stále realističtější obrázky činí situaci problematičtější a znepokojivější.
Stuart Mills, který je manažerem záchytných a technologických operací a detektivním inspektorem, vyjádřil své obavy ze zneužití umělé inteligence k vytváření obrázků, které symbolizují sexuální zneužívání nezletilí.
"Toto je problém, kterému čelí mezinárodní vymáhání práva," řekl detektiv.
Zabavili jsme značné množství nevyřízeného materiálu zahrnujícího sexuální vykořisťování dětí, včetně digitálně vytvořených obrázků,“ uvedl zástupce DIA.
Podle něj byl digitálně vytvořený materiál ke zneužívání zabavován celními orgány od počátku 2000, tradičně pomocí nástrojů, jako je Photoshop. V současnosti je však zachycován obsah vytvořený „zcela AI“.
Upřesňuje, že téměř čtvrtina aktuálně zachyceného obsahu je produkována digitálně.
„Problémem platformy AI je její univerzální dostupnost. Rád bych uvedl, že jsme extrémně zběhlí v identifikaci padělků, ale umělá inteligence může být velmi přesvědčivá,“ řekl. „Je možné, že někdo používá AI k vytvoření něčeho a my nedokážeme rozlišit,“ dodal.
Zopakoval, že umělá inteligence je jen nejnovější technologická hranice, do které pedofili napadají, podle stejného vzoru jako internet a později sociální média.
„Zneužívání dětí se tak stalo dostupnější. Děsivá vyhlídka,“ pokračoval expert. „Kromě toho, že tyto obrázky jsou sdíleny, prodávány nebo obchodovány, pravděpodobně to budou obrázky generované AI být využíván zločinci k manipulaci a nátlaku na mladé oběti online v případech trestných činů, jako je sexuální vydírání,“ hotovo.