En tragedie rystet byen Tsu, i Mie Prefecture, western Japan, forårsaker døden til en 4 år gammel jente.
Den sjokkerende nyheten kom frem tirsdag, og avslørte at provinsregjeringens beslutning om å la være plass midlertidig i varetekt var basert på en kunstig intelligens vurdering av omstendigheter.
se mer
Familie mottar 800 000 dollar kompensasjon etter at nuggets brenner...
Johnson & Johnson ble pålagt å betale 18,8 millioner dollar i søksmål
en tragedie annonsert
Barnets mor, en 42 år gammel kvinne, ble varetektsfengslet av Mie Prefectural Police i juni, mistenkt for å ha påført datteren dødelige skader.
Imidlertid er systemet med AI etablert i 2020 kom i bruk for å vurdere situasjonen og fastslå sannsynligheten for lignende saker.
Ved å bruke data fra mer enn 13 000 historiske saker sett på barnekonsultasjonssentre, beregnet systemet en 39 % "arrestasjonsrate" for den gjeldende saken.
Tatt i betraktning at moren hadde oppgitt at hun ville følge rådene fra personalet på barnekonsultasjonssenteret, Provinsmyndighetene valgte å ikke varetektsfengsle jenta midlertidig, men heller å følge nøye med på saken.
Denne avgjørelsen ble tatt basert på tallene gitt av AI-systemet, men Mie-guvernør Katsuyuki Ichimi understreket at disse tall er bare én parameter og det er fortsatt usikkert om måten AI-systemet ble brukt til å ta avgjørelsen på var fullstendig ordentlig.
Et utvalg skal behandle saken
Stilt overfor denne triste situasjonen kunngjorde guvernøren at det vil bli nedsatt en uavhengig komité av eksterne eksperter for å se på saken.
Det vil bli gjort en grundig analyse av hvordan AI-systemet ble brukt og om det var hensiktsmessig for å bedømme situasjonen. Dette tiltaket har som mål å sikre at lignende feil ikke gjentas i fremtiden.
I tillegg ga Mie Prefectural-regjeringen tirsdag ut en plan for barnekonsultasjonssentre for å gjennomføre hjemmebesøk og visuelt vurdere sikkerheten til alle barn.
Det ble oppdaget at barnehagen ikke hadde kontrollert den 4 år gamle jentas sikkerhet på over ett år, siden hun sluttet i barnehagen.
Dette tragiske tapet av et uskyldig liv reiste spørsmål om bruken av kunstig intelligens for å ta slike delikate avgjørelser.
Mens AI-systemet kan gi verdifulle data, er det klart at forsiktig og sensitiv menneskelig dømmekraft er avgjørende for å sikre beskyttelse og velvære til barn.
Myndighetene er nå forpliktet til å lære av denne forferdelige opplevelsen og iverksette tiltak for å sikre sikkerheten til barn i Mie Prefecture.