"בינה מלאכותית עתידית" יכולה לחסל בני אדם, אומרים מומחים

עניינים סביב עתיד הבינה המלאכותית (AI) ממשיכים להיות חמים ברחבי העולם.

הנושא הפך אפילו יותר נוכח לאחר שמנהלים בעלי שם ומדענים יוקרתיים החליטו לחשוף את חששותיהם. חלקם אפילו מאמינים ביכולתם של בני אדם להשמיד לאורך זמן.

אבל, האם זה אפשרי?

ראה גם: גלה 5 מקצועות שצמחו בגלל בינה מלאכותית

מכתב פתוח מזהיר מפני סכנות של AI

מכתב פתוח שפורסם ב-30 במאי הציג את חתימתם של האחראים לחברות גדולות כמו OpenAI ו-Google DeepMind. למעשה, גם גפרי הינטון ויושע בנג'יו חתמו, והשניים הללו נחשבים ל"סנדקים" של הבינה המלאכותית המודרנית.

המטרה של החותמים הייתה רק אחת: לנסות להפחית את ההשפעות המזיקות שעלולות לגרום AI. יש להתייחס לנושא זה כמצב חירום עולמי בדומה למגפות ומלחמות גרעיניות.

גם מאמר של המרכז לעמותות איי צפת חיזק את חששותיהם של אנשים רבים. מנכ"ל הארגון הוא דן הנדריקס, שהוא חוקר בינה מלאכותית נחשבת.

הטקסט, שכותרתו "ברירה טבעית מעדיפה בינה מלאכותית על פני בני אדם", מדבר על הברירה הטבעית שמעדיפה בינה מלאכותית הרבה יותר מאשר בני אדם.

איך בינה מלאכותית יכולה לחסל בני אדם?

ראשית, דעו שהדאגה של החוקרים אינה לגבי כלים פשוטים יותר כמו ChatGPT ובינה מלאכותית אחרת שיכולה ליצור תמונות, למשל.

הם מדברים על אינטליגנציות עתידיות המסוגלות לרכוש תודעה ולנקוט פעולה על סמך מה שהם "רוצים" ולא מה שהם נצטוו לעשות.

לדברי החוקרים והמנהלים, בינה מלאכותית ברמה זו תהיה מסוגלת לבצע פעולות כמו יצירה או שחרור של קטלני לאנושות, להפיץ תכנים שקרים ומטעים שונים ביעילות יתרה, להפעיל פצצות גרעיניות, וכו '

באופן כללי, חוששים שמכונה שהגיעה למסקנה שבני אדם הם רוע שיש להילחם בו תחסל בקלות את המין מעל פני כדור הארץ.

תרחיש קטסטרופלי שכזה יקודם על ידי הרס של שוק העבודה והזדמנויות לאנשים, בין שאר ההשלכות של שימוש חסר הבחנה בבינה מלאכותית.