Een tragedie schudde de stad Tsu, in de prefectuur Mie, westelijk Japan, waardoor een 4-jarig meisje om het leven kwam.
Het schokkende nieuws kwam dinsdag aan het licht en onthulde dat het besluit van de provinciale overheid om dat niet te doen voorlopige hechtenis was gebaseerd op een beoordeling door kunstmatige intelligentie van de omstandigheden.
Bekijk meer
Familie krijgt 800.000 dollar schadevergoeding nadat goudklompjes verbranden...
Johnson & Johnson veroordeeld tot het betalen van $ 18,8 miljoen aan rechtszaak
een tragedie aangekondigd
De moeder van het kind, een 42-jarige vrouw, werd in juni door de prefectuurpolitie van Mie vastgehouden op verdenking van het toebrengen van dodelijke verwondingen aan haar dochter.
Echter, het systeem van AI opgericht in 2020 kwam in het spel om de situatie te beoordelen en de waarschijnlijkheid van soortgelijke gevallen te bepalen.
Aan de hand van gegevens van meer dan 13.000 historische gevallen die in consultatiecentra voor kinderen zijn gezien, berekende het systeem een "arrestatiepercentage" van 39% voor de huidige zaak.
Rekening houdend met het feit dat de moeder had aangegeven het advies van de medewerkers van het kinderspreekuur op te volgen, heeft de Provincies kozen ervoor om het meisje niet tijdelijk in hechtenis te nemen, maar de zaak nauwlettend in de gaten te houden.
Deze beslissing is genomen op basis van de cijfers van het AI-systeem, maar Mie-gouverneur Katsuyuki Ichimi benadrukte dat deze cijfers zijn slechts één parameter en het is nog steeds onzeker of de manier waarop het AI-systeem werd gebruikt om de beslissing te nemen volledig was juist.
Een commissie onderzoekt de zaak
Geconfronteerd met deze trieste situatie kondigde de gouverneur aan dat er een onafhankelijke commissie van externe deskundigen zal worden gevormd om de zaak te onderzoeken.
Er zal een grondige analyse worden gemaakt van hoe het AI-systeem werd gebruikt en of het geschikt was om de situatie te beoordelen. Deze maatregel moet ervoor zorgen dat soortgelijke fouten in de toekomst niet worden herhaald.
Bovendien heeft de regering van de prefectuur Mie dinsdag een plan vrijgegeven voor consultatiecentra voor kinderen om huisbezoeken af te leggen en de veiligheid van alle kinderen visueel te beoordelen. kinderen.
Er werd ontdekt dat het kindercentrum de veiligheid van het 4-jarige meisje al meer dan een jaar niet had gecontroleerd, omdat ze niet meer naar de crèche ging.
Dit tragische verlies van een onschuldig leven deed vragen rijzen over het gebruik van kunstmatige intelligentie bij het nemen van zulke delicate beslissingen.
Hoewel het AI-systeem waardevolle gegevens kan opleveren, is het duidelijk dat zorgvuldig en gevoelig menselijk oordeel van cruciaal belang is om de bescherming en het welzijn van kinderen te waarborgen.
De autoriteiten zijn nu vastbesloten om te leren van deze verschrikkelijke ervaring en maatregelen te nemen om de veiligheid van kinderen in de prefectuur Mie te waarborgen.
