Jeden tragédie otřásla městem Tsu, v prefektuře Mie, západní Japonsko, což způsobilo smrt 4leté dívky.
Šokující zpráva vyšla najevo v úterý a odhalila, že rozhodnutí provinční vlády ne místo dočasně ve vazbě bylo založeno na posouzení umělé inteligence okolnosti.
vidět víc
Rodina dostává odškodné 800 000 dolarů poté, co spálil nugety…
Johnson & Johnson nařídil zaplatit 18,8 milionu dolarů v soudním sporu
oznámena tragédie
Matku dítěte, 42letou ženu, zadržela v červnu prefekturní policie Mie pro podezření, že své dceři způsobila smrtelná zranění.
Nicméně systém AI založena v roce 2020 vstoupila do hry, aby zhodnotila situaci a určila pravděpodobnost podobných případů.
Na základě údajů z více než 13 000 historických případů zaznamenaných v dětských konzultačních centrech systém vypočítal 39% „míru zatčení“ pro aktuální případ.
S ohledem na skutečnost, že matka uvedla, že se bude řídit radami pracovníků dětské poradny, Provinční úřady se rozhodly dívku dočasně neuvěznit, ale raději celou věc bedlivě sledovat.
Toto rozhodnutí bylo učiněno na základě čísel poskytnutých systémem AI, ale guvernér Mie Katsuyuki Ichimi zdůraznil, že čísla jsou pouze jedním parametrem a stále není jisté, zda způsob, jakým byl systém AI použit k rozhodování, byl úplný správné.
Případ prověří komise
Tváří v tvář této smutné situaci guvernér oznámil, že bude vytvořena nezávislá komise externích odborníků, která se bude případem zabývat.
Bude provedena důkladná analýza toho, jak byl systém AI použit a zda byl vhodný pro posouzení situace. Toto opatření má zajistit, aby se podobné chyby v budoucnu neopakovaly.
V úterý navíc vláda prefektury Mie zveřejnila plán pro dětská konzultační centra, která budou provádět domácí návštěvy a vizuálně hodnotit bezpečnost všech děti.
Bylo zjištěno, že pečovatelské centrum nekontrolovalo bezpečnost 4leté dívky již více než rok, protože přestala navštěvovat denní péči.
Tato tragická ztráta nevinného života vyvolala otázky o použití umělé inteligence při přijímání tak choulostivých rozhodnutí.
I když systém AI může poskytovat cenná data, je jasné, že pečlivý a citlivý lidský úsudek je zásadní pro zajištění ochrany a blaha dětí.
Úřady jsou nyní odhodlány poučit se z této hrozné zkušenosti a zavést opatření k zajištění bezpečnosti dětí v prefektuře Mie.
