Ett tragedi skakade staden Tsu, i Mie Prefecture, western Japan, vilket orsakade en 4-årig flickas död.
Den chockerande nyheten kom fram på tisdagen och avslöjade att provinsregeringens beslut att inte göra det plats tillfälligt i häktet baserades på en artificiell intelligens bedömning av omständigheter.
se mer
Familjen får $800 000 i ersättning efter att nuggets brinner...
Johnson & Johnson ålades att betala 18,8 miljoner dollar i rättegång
en tragedi tillkännagavs
Barnets mamma, en 42-årig kvinna, hade häktats av Mie Prefectural Police i juni, misstänkt för att ha tillfogat sin dotter dödliga skador.
Men systemet med AI inrättades 2020, kom till användning för att bedöma situationen och fastställa sannolikheten för liknande fall.
Med hjälp av data från mer än 13 000 historiska fall som setts på barnkonsultationscenter, beräknade systemet en 39 % "gripandefrekvens" för det aktuella fallet.
Med hänsyn till det faktum att mamman hade uppgett att hon skulle följa råden från personalen på barnkonsultationscentralen, Provinsmyndigheterna valde att inte tillfälligt häkta flickan, utan att hålla ett öga på ärendet.
Detta beslut togs baserat på siffrorna från AI-systemet, men Mie-guvernör Katsuyuki Ichimi betonade att dessa siffror är bara en parameter och det är fortfarande osäkert om sättet som AI-systemet användes för att fatta beslutet var helt rätt.
En nämnd kommer att granska ärendet
Inför denna sorgliga situation meddelade guvernören att en oberoende kommitté av externa experter kommer att bildas för att undersöka fallet.
En grundlig analys kommer att göras av hur AI-systemet användes och om det var lämpligt för att bedöma situationen. Denna åtgärd syftar till att säkerställa att liknande misstag inte upprepas i framtiden.
Dessutom släppte Mie Prefectural-regeringen på tisdagen en plan för barnkonsultationscenter för att genomföra hembesök och visuellt bedöma säkerheten för alla barn.
Det upptäcktes att barnavårdscentralen inte hade kontrollerat den 4-åriga flickans säkerhet på över ett år, sedan hon slutade gå på dagis.
Denna tragiska förlust av ett oskyldigt liv väckte frågor om användningen av artificiell intelligens för att fatta sådana känsliga beslut.
Även om AI-systemet kan tillhandahålla värdefull data, är det tydligt att noggrant och känsligt mänskligt omdöme är avgörande för att säkerställa skydd och välbefinnande för barn.
Myndigheterna har nu åtagit sig att lära av denna fruktansvärda erfarenhet och genomföra åtgärder för att säkerställa säkerheten för barn i Mie Prefecture.
