Direktur bea cukai tim Operasi Eksploitasi Anak, Simon Peterson, mengungkapkan peningkatan yang mengkhawatirkan dalam materi dari eksploitasi seksual anak dihasilkan secara digital di Selandia Baru.
Seperti dilansir Stuff, tiga instansi pemerintah, antara lain bea cukai, kepolisian dan Departemen Dalam Negeri (DIA), terkonfirmasi telah menemukan konten yang tidak menyenangkan yang dihasilkan oleh Kecerdasan Buatan di negara tersebut, setelah pertanyaan muncul dari kasus serupa di negara lain tempat.
lihat lebih banyak
Penelitian mengungkapkan bahwa otak remaja 'tersambung' ke…
PicPay sekarang akan membebankan biaya untuk tidak aktif; lihat cara kerjanya
Menurut Peterson, Bea Cukai baru-baru ini mencegat sebuah game yang isinya menggambarkan pelecehan seksual terhadap anak-anak, meningkatkan kekhawatiran tentang penggunaan AI dalam konteks ini. Dia menunjukkan bahwa meskipun konsep praktik semacam itu bukanlah hal baru, kemampuan AI untuk menghasilkan gambar yang lebih realistis membuat situasi menjadi lebih bermasalah dan mengkhawatirkan.
Stuart Mills, yang merupakan manajer operasi intersepsi dan teknologi dan inspektur detektif, mengungkapkannya kekhawatiran tentang penyalahgunaan kecerdasan buatan untuk menghasilkan gambar yang melambangkan pelecehan seksual anak di bawah umur.
"Ini adalah masalah yang dihadapi penegak hukum internasional," kata detektif itu.
Kami telah menyita sejumlah besar materi yang melibatkan eksploitasi seksual terhadap anak-anak, termasuk gambar yang diproduksi secara digital,” kata perwakilan DIA.
Menurutnya, materi penyalahgunaan yang dibuat secara digital telah disita oleh bea cukai sejak awal tahun 2000-an, secara tradisional menggunakan alat seperti Photoshop. Namun, konten yang diproduksi "sepenuhnya oleh AI" saat ini sedang dicegat.
Dia mengklarifikasi bahwa hampir seperempat dari konten yang ditangkap saat ini diproduksi secara digital.
“Kesulitan platform AI adalah aksesibilitasnya yang universal. Saya ingin menyatakan bahwa kami sangat mahir dalam mengidentifikasi pemalsuan, namun AI bisa sangat meyakinkan,” katanya. "Ada kemungkinan seseorang menggunakan AI untuk membuat sesuatu dan kami tidak bisa membedakannya," tambahnya.
Dia menegaskan kembali bahwa AI hanyalah perbatasan teknologi terbaru yang diserang oleh para pedofil, mengikuti pola yang sama seperti internet dan kemudian media sosial.
“Itu membuat pelecehan anak lebih tersedia. Prospek yang menakutkan, ”lanjut sang ahli. “Selain gambar-gambar ini dibagikan, dijual, atau diperdagangkan, gambar yang dihasilkan AI kemungkinan besar juga demikian digunakan oleh penjahat untuk memanipulasi dan memaksa korban muda secara online dalam kasus pelanggaran seperti sextortion,” selesai.