يقول العلماء إن الذكاء الاصطناعي الفائق الذكاء سيكون خارج نطاق السيطرة

يتم بالفعل إنشاء أنظمة فائقة الذكاء ونشرها في جميع أنحاء العالم بسبب السباق التكنولوجي. لهذا السبب ، تثار بعض الأسئلة: هل هذا ممكن التحكم في الذكاء الاصطناعي الى اي مدى؟ ما مدى استعدادنا للقتال منظمة العفو الدولية يعمل بما يتجاوز القدرات البشرية؟ ما مدى أخلاقية إنشاء برنامج لا يمكن بعد قياس عواقبه وآثاره؟ اطلع الآن على مزيد من المعلومات حول هذه الأسئلة التي طرحها العلماء.

اقرأ أكثر: 7 تطبيقات للذكاء الاصطناعي: بعضها يحل بالفعل محل العمالة البشرية

ذكاء اصطناعي مع ذكاء خارق

يبدو الأمر وكأنه حبكة فيلم خيال علمي ، لكن الحقيقة هي أن الذكاء الاصطناعي يمكنه بالفعل إنشاء استقلالية لتعلم الأوامر التي يمكن أن تنقلب لاحقًا ضد البشر. ليس مضمونًا ، على سبيل المثال ، أنهم سيتبعون قواعد مثل "لا تسبب ضررًا للإنسانية" ، منذ ذلك الحين أنه سيتم برمجتها للحصول على الاستقلالية ويمكنها التحايل على القيود التي يفرضها المبرمجين.

مشكلة وقف آلان تورينج

تُدعى هذه المشكلة بـ "مشكلة التوقف" ، وتعطي هذه المشكلة بديلين لأمر يُعطى للكمبيوتر: إما أنه سيفعل توصل إلى استنتاج وإما أن تستجيب لها بالتوقف ، أو ستستمر في حلقة تحاول إيجاد حل - حتى جدها. لهذا السبب ، من المستحيل معرفة ما إذا كان الذكاء الاصطناعي سيتوقف ، أو ما إذا كان سيجد ويخزن جميع الاستنتاجات الممكنة في ذاكرته.

تكمن المشكلة في ذلك في أنه من غير الممكن قياس الحل أو البديل الذي ستتخذه الآلة لمشكلة معينة بعد فترة. بهذه الطريقة ، سيكون سلوكه غير متوقع وسيكون من غير المجدي إنشاء خوارزمية احتواء.

الخلافات بين آراء العلماء

يجادل بعض العلماء بأن جميع التطورات في التكنولوجيا يجب أن تكون مصممة لتعزيز الصالح العام بطريقة آمنة وخاضعة للرقابة. وبهذه الطريقة ، فإن الآلة الفائقة القادرة على تخزين أي وجميع أنواع الذكاء ، مع قوى احتواء غير فعالة وقدرة غير قابلة للقياس على التدمير ، تبدو وكأنها شيء خطير.

مع أخذ ذلك في الاعتبار ، يدعي باحثو الحوسبة أن الآلات فائقة الذكاء قد يكون لها أضرار تفوق الفوائد ، ويجب تجنب بنائها. يتعامل العديد من المبرمجين باستمرار مع حقيقة أن أجهزتهم تعلمت القيام بأشياء لم تستطع فعلها. قام بتدريس أو إنشاء أوامر لهم للتعلم - وهذا ، اعتمادًا على ما يتعلمونه ، يمكن أن يرمز إلى مخاطرة.

قضايا أخلاقية

قد يكون الحد من قدرات الذكاء الخارق بديلاً قابلاً للتطبيق. للقيام بذلك ، من الممكن قطعه عن أجزاء من الإنترنت أو من شبكات معينة. ستكون هذه أمثلة على آليات الاحتواء. ومع ذلك ، لم يُعرف بعد ما إذا كانت هذه البدائل قابلة للتطبيق - أو ما إذا كان الجهاز يمكنه الوصول إلى هذه المحتويات بطريقة لم يتم الكشف عنها بعد.

لذلك ، إذا استمرت البشرية في التقدم مع الذكاء الاصطناعي ، فمن الضروري توخي الحذر الشديد بشأن المدى الذي يجب أن تكون فيه مستقلة.