סביר להניח שאתה משתמש - או לפחות שמעת עליו - ChatGPT. כלי הבינה המלאכותית חווה "בום" בחודשים האחרונים והיה "יד על ההגה" כדי לענות על שאלות או אפילו לבצע עבודות מורכבות יותר.
עם זאת, המערכת מסתירה סוד אפל - ויוצריה יודעים זאת. לא רק שהם יודעים, אלא שהם נושאים באחריות על כך.
ראה עוד
גוגל מפתחת כלי בינה מלאכותית כדי לעזור לעיתונאים ב...
אייפון מקורי 2007 שלא נפתח נמכר בכמעט 200,000 דולר; לָדַעַת...
על פי OpenAI, החברה שיצרה את הכלי, ChatGPT סובלת מ"הזיות". כלומר, זה יכול לתת מידע שקרי לפעמים.
על המצב הודיעה החברה ביום רביעי שעבר, 31 במאי. בנוסף, הם גם הכריזו על שיטה חדשה וחזקה יותר לאימון ה-AI.
מדוע חשוב לתקן את ההתנהגות השגויה הזו של ChatGPT?
ההסבר הבסיסי הוא שאנשים משתמשים בכלי הרבה בחיי היומיום שלהם. לכן, הכרחי ש-ChatGPT יעביר מידע אמין למי שמשתמש בו.
לדוגמה, אם אתה משתמש ב- AIכדי לשפר טקסט עבודה בבית הספר, או לחפש מתכונים ספציפיים, חיוני שהמידע שם יהיה נכון.
יותר מזה, עם המספר ההולך וגדל של משתמשי צ'טבוט, ניתן להפיץ מידע כוזב בקלות כאילו זו האמת.
וזה עלול לגרום לכאב ראש עצום בשנה הבאה, כשהבחירות בארצות הברית יתחילו - וזה עלול לזלוג גם כאן בברזיל!
"אפילו למודלים חדישים יש נטייה לייצר שקר - הם מפגינים נטייה להמציא עובדות ברגעים של חוסר ודאות. הזיות אלו בעייתיות במיוחד בתחומים הדורשים חשיבה רב-שלבית, א מכיוון ששגיאה לוגית אחת מספיקה כדי לגרוע מהפסים של פתרון הרבה יותר גדול", אמר OpenAI ב התקשר.
מה לעשות כדי לתקן?
OpenAI דיווחה שהיא תשתמש באסטרטגיה חדשה כדי להילחם ב"הזיות" של ChatGPT: לאמן מודלים של AI לתגמל את עצמם על כל צעד נכון. במקום פשוט לתגמל אותה בסוף בתשובה השלמה.
"זיהוי והפחתה של שגיאות לוגיות או הזיות של מודל הוא צעד קריטי לקראת בניית AI מיושר כולל. המוטיבציה מאחורי מחקר זה היא לטפל בהזיות כדי להפוך מודלים למסוגלים יותר לפתור בעיות חשיבה מורכבות", הסביר קרל קוב, חוקר מתמטיקה ב חֶברָה.
סיים לימודי תקשורת חברתית באוניברסיטה הפדרלית של גואיאס. נלהב למדיה דיגיטלית, תרבות פופ, טכנולוגיה, פוליטיקה ופסיכואנליזה.
