Jedan tragedija je potresla grad Tsu, u prefekturi Mie, zapad Japan, izazvavši smrt 4-godišnje djevojčice.
Šokantna vijest izašla je u javnost u utorak, otkrivši da je odluka pokrajinske vlade da ne privremeno odvođenje u pritvor temeljilo se na procjeni umjetne inteligencije okolnosti.
vidi više
Obitelj dobiva 800.000 dolara odštete nakon što su grumenci spaljeni...
Johnson & Johnson je dužan platiti 18,8 milijuna dolara u tužbi
najavljena tragedija
Djetetovu majku, 42-godišnju ženu, privela je policija prefekture Mie u lipnju zbog sumnje da je svojoj kćeri nanijela smrtonosne ozljede.
Međutim, sustav od AI osnovana 2020. stupila je u obzir kako bi procijenila situaciju i utvrdila vjerojatnost sličnih slučajeva.
Koristeći podatke iz više od 13.000 povijesnih slučajeva viđenih u centrima za savjetovanje djece, sustav je izračunao "stopu uhićenja" od 39% za trenutni slučaj.
Uzimajući u obzir činjenicu da je majka izjavila da će poslušati savjete djelatnika Dječjeg savjetovališta, Pokrajinske vlasti odlučile su ne staviti djevojčicu privremeno u pritvor, već su pomno pratile stvar.
Ova je odluka donesena na temelju brojki koje je dao AI sustav, ali guverner Mie Katsuyuki Ichimi naglasio je da su ovi brojevi su samo jedan parametar i još uvijek je neizvjesno je li način na koji je AI sustav korišten za donošenje odluke bio potpuno ispravan.
Povjerenstvo će ispitati slučaj
Suočen s ovom tužnom situacijom, guverner je najavio da će se formirati neovisno povjerenstvo vanjskih stručnjaka koji će istražiti slučaj.
Napravit će se temeljita analiza kako je AI sustav korišten i je li bio prikladan u procjeni situacije. Ova mjera ima za cilj osigurati da se slične greške ne ponove u budućnosti.
Osim toga, u utorak je vlada prefekture Mie objavila plan za dječje savjetovališta za obavljanje kućnih posjeta i vizualnu procjenu sigurnosti svih djece.
Otkriveno je da dječji centar nije provjerio sigurnost četverogodišnje djevojčice više od godinu dana, otkako je prestala ići u vrtić.
Ovaj tragični gubitak nevinog života potaknuo je pitanja o korištenju umjetne inteligencije u donošenju tako delikatnih odluka.
Iako sustav umjetne inteligencije može pružiti vrijedne podatke, jasno je da je pažljiva i osjetljiva ljudska prosudba ključna za osiguranje zaštite i dobrobiti djece.
Vlasti su sada predane učenju iz ovog užasnog iskustva i provedbi mjera za osiguranje sigurnosti djece u prefekturi Mie.