אחד טרגדיה הרעידה את העיר צו, במחוז מי, מערב יפן, גרימת מותה של ילדה בת 4.
החדשות המזעזעות התגלו ביום שלישי, וחשפה כי החלטת ממשלת המחוז לא לעשות זאת מקום המעצר הזמני התבסס על הערכת בינה מלאכותית של נסיבות.
ראה עוד
המשפחה מקבלת פיצוי של 800,000 דולר לאחר שריפת נאגטס...
ג'ונסון אנד ג'ונסון חויבו לשלם 18.8 מיליון דולר בתביעה
הכריזה טרגדיה
אמו של הילד, אישה בת 42, נעצרה על ידי משטרת מחוז מי ביוני בחשד שגרמה לפציעות קטלניות לבתה.
עם זאת, המערכת של AI שהוקם בשנת 2020 נכנס לפעולה כדי להעריך את המצב ולקבוע את הסבירות למקרים דומים.
באמצעות נתונים של יותר מ-13,000 מקרים היסטוריים שנראו במרכזי ייעוץ לילדים, המערכת חישבה "שיעור מעצר" של 39% למקרה הנוכחי.
בהתחשב בעובדה שהאם הצהירה כי תפעל לפי עצתו של צוות מרכז הייעוץ לילדים, רשויות המחוז בחרו שלא להעמיד את הילדה באופן זמני במעצר, אלא לפקוח מקרוב על הנושא.
החלטה זו התקבלה על סמך המספרים שסיפקה מערכת הבינה המלאכותית, אך מושל מי קאטסויוקי איצ'ימי הדגיש כי אלה מספרים הם רק פרמטר אחד ועדיין לא בטוח אם האופן שבו נעשה שימוש במערכת הבינה המלאכותית כדי לקבל את ההחלטה היה לחלוטין תָקִין.
ועדה תבחן את המקרה
מול המצב העצוב הזה, הודיע הנגיד כי תוקם ועדה בלתי תלויה של מומחים חיצוניים שתבדוק את המקרה.
ייערך ניתוח יסודי של אופן השימוש במערכת הבינה המלאכותית והאם היא הייתה מתאימה בשיפוט המצב. אמצעי זה נועד להבטיח שטעויות דומות לא יחזרו על עצמם בעתיד.
בנוסף, ביום שלישי, ממשלת מחוז מי פרסמה תוכנית למרכזי ייעוץ לילדים לערוך ביקורי בית ולהעריך חזותית את בטיחותם של כולם יְלָדִים.
התגלה כי המעון לא בדק את שלוותה של הילדה בת ה-4 כבר למעלה משנה, מאז הפסיקה להגיע למעון.
אובדן טרגי זה של חיים חפים מפשע העלה שאלות לגבי השימוש בבינה מלאכותית בקבלת החלטות עדינות כל כך.
בעוד שמערכת הבינה המלאכותית יכולה לספק נתונים בעלי ערך, ברור ששיפוט אנושי זהיר ורגיש הוא קריטי להבטחת ההגנה והרווחה של ילדים.
הרשויות מחויבות כעת ללמוד מהניסיון הנורא הזה וליישם צעדים כדי להבטיח את שלומם של ילדים במחוז מי.
