ena mesto Tsu je pretresla tragedija, v prefekturi Mie, zahodni Japonska, zaradi česar je umrla 4-letna deklica.
Šokantna novica je prišla v javnost v torek razkrila, da odločitev deželne vlade, da ne začasno pridržanje temeljila na Umetna Inteligenca oceni o okoliščine.
Poglej več
Družina prejme 800.000 dolarjev odškodnine, potem ko so kepice zgorele...
Johnson & Johnson mora plačati 18,8 milijona dolarjev tožbe
napovedana tragedija
Otrokovo mamo, 42-letno žensko, je junija pridržala policija prefekture Mie zaradi suma, da je svoji hčerki povzročila smrtne poškodbe.
Vendar pa sistem AI ustanovljeno leta 2020, je prišlo v poštev za oceno situacije in ugotavljanje verjetnosti podobnih primerov.
Z uporabo podatkov iz več kot 13.000 zgodovinskih primerov, opaženih v posvetovalnicah za otroke, je sistem izračunal 39-odstotno "stopnjo aretacij" za trenutni primer.
Glede na to, da je mati izjavila, da bo upoštevala nasvete osebja posvetovalnice za otroke, je Pokrajinske oblasti so se odločile, da dekleta ne bodo začasno pridržale, temveč bodo zadevo pozorno spremljale.
Ta odločitev je bila sprejeta na podlagi številk, ki jih je zagotovil sistem AI, vendar je guverner Mie Katsuyuki Ichimi poudaril, da te številke so samo en parameter in še vedno ni gotovo, ali je bil način, na katerega je bil sistem AI uporabljen za odločitev, popolnoma pravilno.
Primer bo preučila komisija
Glede na to žalostno situacijo je guverner napovedal, da bo ustanovljena neodvisna komisija zunanjih strokovnjakov, ki bo preučila primer.
Opravljena bo temeljita analiza, kako je bil sistem AI uporabljen in ali je bil primeren pri presoji situacije. Namen tega ukrepa je preprečiti, da bi se podobne napake v prihodnje ponovile.
Poleg tega je vlada prefekture Mie v torek izdala načrt za otroške svetovalne centre za izvajanje obiskov na domu in vizualno oceno varnosti vseh otroci.
Ugotovljeno je bilo, da v vrtcu niso preverili varnosti 4-letne deklice več kot leto dni, odkar je prenehala obiskovati vrtec.
Ta tragična izguba nedolžnega življenja je sprožila vprašanja o uporabi umetne inteligence pri sprejemanju tako občutljivih odločitev.
Čeprav lahko sistem AI zagotovi dragocene podatke, je jasno, da je skrbna in občutljiva človeška presoja ključnega pomena za zagotavljanje zaščite in dobrega počutja otrok.
Oblasti se zdaj zavezujejo, da se bodo učili iz te strašne izkušnje in izvajali ukrepe za zagotovitev varnosti otrok v prefekturi Mie.