מדענים אומרים שבינה מלאכותית סופר אינטליגנטית תהיה בלתי ניתנת לשליטה

מערכות סופר אינטליגנטיות כבר נוצרות ומופצות ברחבי העולם בשל המירוץ הטכנולוגי. מסיבה זו עולות כמה שאלות: האם זה אפשרי לשלוט בבינה מלאכותית כמה רחוק? כמה אנחנו מוכנים להילחם א AI שעובד מעבר ליכולת האנושית? עד כמה זה אתי ליצור תוכנית שעדיין לא ניתן למדוד את השלכותיה והשפעותיה? ראה כעת מידע נוסף על שאלות אלו שנשאלו על ידי מדענים.

קרא עוד: 7 יישומים של בינה מלאכותית: חלקם כבר מחליפים את העבודה האנושית

בינה מלאכותית עם אינטליגנציה על

זה נשמע כמו עלילה של סרט מדע בדיוני, אבל האמת היא שבינה מלאכותית אכן יכולה ליצור אוטונומיה ללמוד פקודות שיכולות להתהפך מאוחר יותר נגד בני אדם. לא מובטח, למשל, שהם ימלאו אחר כללים כגון "אל תגרום נזק לאנושות", שכן שהם יתכנתו להיות בעלי אוטונומיה ויכולים לעקוף את הגבולות המוטלים על ידי מתכנתים.

בעיית בלימה של אלן טיורינג

המכונה "בעיית עצירה", בעיה זו נותנת שתי חלופות לפקודה שניתנת למחשב: או שהיא תעשה זאת להגיע למסקנה או להגיב לה בעצירה, או שזה ימשיך בלולאה בניסיון למצוא פתרון - עד למצוא אותה. מסיבה זו, אי אפשר לדעת אם הבינה המלאכותית תיפסק, או שהיא תמצא ותשמור בזיכרון שלה את כל המסקנות האפשריות.

הבעיה בכך היא שלא ניתן למדוד, לאחר זמן מה, איזה פתרון או חלופה תנקוט המכונה לבעיה נתונה. בדרך זו, ההתנהגות שלו תהיה בלתי צפויה ויהיה חסר טעם ליצור אלגוריתם בלימה.

הבדלים בין דעות של מדענים

כמה מדענים טוענים שכל ההתקדמות בטכנולוגיה חייבת להיות מתוכננת כדי לקדם את טובת הכלל בצורה בטוחה ומבוקרת. בדרך זו, מכונת-על המסוגלת לאחסן כל סוגי מודיעין, עם כוחות בלימה לא יעילים ויכולת השמדה עדיין בלתי מדודה, נראית כמו משהו מסוכן.

בהתחשב בכך, חוקרי מחשוב טוענים שלמכונות סופר אינטליגנטיות עשויות להיות נזקים שעולים על היתרונות, ויש להימנע מבנייתן. מתכנתים רבים מתמודדים כל הזמן עם העובדה שהמכונות שלהם למדו לעשות דברים שהם מעולם לא יכלו. לימדו או יצרו להם פקודות ללמוד - וזה, בהתאם למה שהם לומדים, יכול לסמל א לְהִסְתָכֵּן.

בעיות אתיות

הגבלת יכולות מודיעין-על עשויה להיות חלופה בת-קיימא. לשם כך, אפשר לנתק אותו מחלקים מהאינטרנט או מרשתות מסוימות. אלו יהיו דוגמאות למנגנוני בלימה. עם זאת, עדיין לא ידוע אם האלטרנטיבות הללו קיימות - או שמא למכונה תהיה גישה לתכנים אלה באופן שטרם נחשף.

לכן, אם האנושות ממשיכה להתקדם עם בינה מלאכותית, יש צורך להיזהר מאוד עם המידה שבה היא חייבת להיות אוטונומית.