Satu tragedi mengguncang kota Tsu, di Prefektur Mie, barat Jepang, menyebabkan kematian seorang gadis berusia 4 tahun.
Berita mengejutkan terungkap pada hari Selasa, mengungkapkan bahwa keputusan pemerintah provinsi untuk tidak melakukannya ditempatkan sementara dalam tahanan didasarkan pada penilaian Kecerdasan Buatan dari keadaan.
lihat lebih banyak
Keluarga menerima kompensasi $800.000 setelah nugget terbakar…
Johnson & Johnson diperintahkan untuk membayar $18,8 juta dalam tuntutan hukum
sebuah tragedi diumumkan
Ibu anak tersebut, seorang wanita berusia 42 tahun, telah ditahan oleh Polisi Prefektur Mie pada bulan Juni karena dicurigai menyebabkan luka fatal pada putrinya.
Namun, sistem dari AI didirikan pada tahun 2020 berperan untuk menilai situasi dan menentukan kemungkinan kasus serupa.
Dengan menggunakan data dari lebih dari 13.000 kasus historis yang terlihat di pusat konsultasi anak, sistem menghitung “tingkat penangkapan” sebesar 39% untuk kasus saat ini.
Mempertimbangkan fakta bahwa ibu telah menyatakan akan mengikuti saran dari staf pusat konsultasi anak, maka Otoritas provinsi memilih untuk tidak menahan gadis itu untuk sementara waktu, tetapi lebih mengawasi masalah tersebut.
Keputusan ini dibuat berdasarkan angka yang diberikan oleh sistem AI, namun Gubernur Mie Katsuyuki Ichimi menekankan bahwa ini angka hanyalah satu parameter dan masih belum pasti apakah cara sistem AI digunakan untuk membuat keputusan itu sepenuhnya sesuai.
Sebuah komite akan memeriksa kasus tersebut
Menghadapi situasi yang memprihatinkan itu, gubernur mengumumkan akan dibentuk komite independen yang terdiri dari pakar eksternal untuk menyelidiki kasus tersebut.
Analisis menyeluruh akan dilakukan tentang bagaimana sistem AI digunakan dan apakah itu tepat untuk menilai situasi. Langkah ini bertujuan agar kesalahan serupa tidak terulang di masa mendatang.
Selain itu, pada hari Selasa, pemerintah Prefektur Mie merilis rencana pusat konsultasi anak untuk melakukan kunjungan rumah dan menilai secara visual keselamatan semua anak. anak-anak.
Diketahui bahwa pusat penitipan anak tidak memeriksa keselamatan gadis berusia 4 tahun itu selama lebih dari setahun, sejak dia berhenti menghadiri penitipan anak.
Hilangnya nyawa tak berdosa yang tragis ini menimbulkan pertanyaan tentang penggunaan Kecerdasan Buatan dalam membuat keputusan yang rumit.
Sementara sistem AI dapat memberikan data yang berharga, jelas bahwa penilaian manusia yang hati-hati dan sensitif sangat penting untuk memastikan perlindungan dan kesejahteraan anak-anak.
Pihak berwenang sekarang berkomitmen untuk belajar dari pengalaman mengerikan ini dan menerapkan langkah-langkah untuk memastikan keamanan anak-anak di Prefektur Mie.