En tragedie rystede byen Tsu, i Mie præfektur, western Japan, der forårsagede en 4-årig piges død.
Den chokerende nyhed kom frem i lyset tirsdag og afslørede, at provinsregeringens beslutning om at lade være plads midlertidigt varetægtsfængslet var baseret på en kunstig intelligens vurdering af omstændigheder.
se mere
Familie modtager 800.000 $ kompensation, efter at nuggets brænder...
Johnson & Johnson dømt til at betale $18,8 millioner i retssagen
en tragedie annonceret
Barnets mor, en 42-årig kvinde, var blevet tilbageholdt af Mie Præfekturs Politi i juni mistænkt for at have påført sin datter dødelige kvæstelser.
Imidlertid er systemet med AI etableret i 2020 kom i spil for at vurdere situationen og bestemme sandsynligheden for lignende sager.
Ved at bruge data fra mere end 13.000 historiske sager set på børnekonsultationscentre, beregnede systemet en "anholdelsesrate" på 39 % for den aktuelle sag.
Under hensyntagen til, at moderen havde erklæret, at hun ville følge rådene fra børnekonsultationscentrets personale, Provinsmyndighederne valgte ikke at anbringe pigen midlertidigt i varetægt, men derimod at holde nøje øje med sagen.
Denne beslutning blev truffet baseret på tallene fra AI-systemet, men Mie-guvernør Katsuyuki Ichimi understregede, at disse tal er kun én parameter, og det er stadig usikkert, om måden AI-systemet blev brugt til at træffe beslutningen på var fuldstændig passende.
Et udvalg vil behandle sagen
Stillet over for denne triste situation meddelte guvernøren, at der vil blive nedsat et uafhængigt udvalg af eksterne eksperter til at undersøge sagen.
Der vil blive lavet en grundig analyse af, hvordan AI-systemet blev anvendt, og om det var hensigtsmæssigt til at vurdere situationen. Denne foranstaltning har til formål at sikre, at lignende fejl ikke gentages i fremtiden.
Derudover udgav Mie-præfekturets regering tirsdag en plan for børnekonsultationscentre til at gennemføre hjemmebesøg og visuelt vurdere sikkerheden for alle børn.
Det blev opdaget, at børnehaven ikke havde kontrolleret den 4-årige piges sikkerhed i over et år, siden hun stoppede i dagplejen.
Dette tragiske tab af et uskyldigt liv rejste spørgsmål om brugen af kunstig intelligens til at træffe sådanne delikate beslutninger.
Selvom AI-systemet kan levere værdifulde data, er det klart, at omhyggelig og følsom menneskelig dømmekraft er afgørende for at sikre børns beskyttelse og velvære.
Myndighederne er nu forpligtet til at lære af denne frygtelige oplevelse og implementere foranstaltninger for at sikre sikkerheden for børn i Mie præfekturet.
