Viens traģēdija satricināja Tsu pilsētu, Mie prefektūrā, rietumu daļā Japāna, izraisot 4 gadus vecas meitenes nāvi.
Šokējošās ziņas nāca gaismā otrdien, atklājot, ka provinces valdības lēmums to nedarīt vieta uz laiku apcietinājumā tika balstīta uz mākslīgā intelekta novērtējumu apstākļiem.
redzēt vairāk
Ģimene saņem 800 000 USD kompensāciju pēc tīrradņu nodegšanas…
Johnson & Johnson piesprieda samaksāt 18,8 miljonus ASV dolāru tiesas prāvā
paziņoja par traģēdiju
Bērna māti, 42 gadus vecu sievieti, Mie prefektūras policija aizturēja jūnijā aizdomās par nāvējošu savainojumu nodarīšanu savai meitai.
Tomēr sistēma AI 2020. gadā izveidotā sistēma stājās spēkā, lai novērtētu situāciju un noteiktu līdzīgu gadījumu iespējamību.
Izmantojot datus no vairāk nekā 13 000 vēsturisku gadījumu, kas novēroti bērnu konsultāciju centros, sistēma aprēķināja 39% "aizturēšanas līmeni" pašreizējai lietai.
Ņemot vērā to, ka māte bija paziņojusi, ka ievēros bērnu konsultāciju centra darbinieku ieteikumus, Provinces varas iestādes izvēlējās meiteni uz laiku nenolikt apcietinājumā, bet gan rūpīgi sekot šim jautājumam.
Šāds lēmums tika pieņemts, pamatojoties uz AI sistēmas sniegtajiem skaitļiem, taču Mie gubernators Katsuyuki Ichimi uzsvēra, ka šie skaitļi ir tikai viens parametrs, un joprojām nav skaidrs, vai veids, kā AI sistēma tika izmantota lēmuma pieņemšanai, bija pilnībā pareizi.
Lietu izskatīs komisija
Saskaroties ar šo bēdīgo situāciju, gubernators paziņoja, ka lietas izskatīšanai tiks izveidota neatkarīga ārējo ekspertu komiteja.
Tiks veikta rūpīga analīze par to, kā AI sistēma tika izmantota un vai tā bija piemērota situācijas izvērtēšanai. Šī pasākuma mērķis ir nodrošināt, lai līdzīgas kļūdas neatkārtotos nākotnē.
Turklāt otrdien Mie prefektūras valdība nāca klajā ar plānu bērnu konsultāciju centriem, lai veiktu mājas vizītes un vizuāli novērtētu visu drošību. bērniem.
Tika atklāts, ka bērnu aprūpes centrs 4 gadus vecās meitenes drošību nav pārbaudījis vairāk nekā gadu, kopš viņa pārtrauca apmeklēt bērnudārzu.
Šis traģiskais nevainīgas dzīvības zaudējums radīja jautājumus par mākslīgā intelekta izmantošanu tik delikātu lēmumu pieņemšanā.
Lai gan AI sistēma var sniegt vērtīgus datus, ir skaidrs, ka rūpīga un jutīga cilvēka spriedums ir ļoti svarīgs, lai nodrošinātu bērnu aizsardzību un labklājību.
Varas iestādes tagad ir apņēmušās mācīties no šīs briesmīgās pieredzes un īstenot pasākumus, lai nodrošinātu bērnu drošību Mie prefektūrā.
