ربما تستخدم - أو على الأقل سمعت عن - ChatGPT. شهدت أداة الذكاء الاصطناعي "ازدهارًا" في الأشهر الأخيرة وكانت بمثابة "يد على عجلة القيادة" للإجابة على الأسئلة أو حتى أداء وظائف أكثر تعقيدًا.
ومع ذلك ، يخفي النظام سرًا غامضًا - ويعرفه منشئوه. إنهم لا يعرفون فقط ، لكنهم يتحملون المسؤولية عن ذلك.
شاهد المزيد
تطور Google أداة الذكاء الاصطناعي لمساعدة الصحفيين في...
آيفون 2007 الأصلي غير المفتوح يبيع ما يقرب من 200000 دولار ؛ يعرف...
بحسب ال أوبن إيه آي، الشركة التي أنشأت الأداة ، ChatGPT يعاني من "الهلوسة". أي أنه يمكن أن يعطي معلومات خاطئة في بعض الأحيان.
وأعلنت الشركة عن الوضع الأربعاء الماضي 31 مايو. بالإضافة إلى ذلك ، فقد أعلنوا أيضًا عن طريقة أحدث وأكثر فاعلية لتدريب الذكاء الاصطناعي.
لماذا من المهم إصلاح هذا السلوك الخاطئ في ChatGPT؟
التفسير الأساسي هو أن الناس يستخدمون الأداة كثيرًا في حياتهم اليومية. لذلك ، من الضروري أن يقوم ChatGPT بتمرير معلومات موثوقة إلى أولئك الذين يستخدمونها.
على سبيل المثال ، إذا كنت تستخدم الامتداد منظمة العفو الدوليةلتحسين نص عمل مدرسي ، أو للبحث عن وصفات محددة ، من الضروري أن تكون المعلومات الموجودة هناك صحيحة.
أكثر من ذلك ، مع تزايد عدد مستخدمي chatbot ، يمكن بسهولة نشر المعلومات الخاطئة كما لو كانت الحقيقة.
وقد يتسبب هذا في صداع كبير في العام المقبل ، عندما تبدأ الانتخابات الأمريكية - ويمكن أن ينتشر هذا أيضًا هنا في البرازيل!
"حتى النماذج الحديثة تميل إلى إنتاج الأكاذيب - فهي تظهر ميلًا إلى اختلاق الحقائق في لحظات عدم اليقين. تعتبر هذه الهلوسة مشكلة خاصة في المجالات التي تتطلب تفكيرًا متعدد الخطوات ، أ نظرًا لأن خطأ منطقيًا واحدًا يكفي لإخراج حل أكبر عن مساره ، "قال OpenAI في التواصل.
ماذا تفعل لإصلاح؟
ذكرت شركة أوبن إيه آي أنها ستستخدم إستراتيجية جديدة لمكافحة "الهلوسة" لدى الدردشة: تدريب نماذج الذكاء الاصطناعي لمكافأة أنفسهم على كل خطوة صحيحة. بدلاً من مجرد مكافأتها في النهاية بالإجابة الكاملة.
"يعد اكتشاف الأخطاء المنطقية أو الهلوسة في النموذج والتخفيف من حدتها خطوة حاسمة نحو بناء ذكاء اصطناعي متوافق بشكل عام. الدافع وراء هذا البحث هو معالجة الهلوسة لجعل النماذج أكثر قدرة حل مشاكل التفكير المعقدة ، أوضح كارل كوبي ، باحث رياضيات في شركة.
تخرج في الاتصال الاجتماعي في الجامعة الاتحادية في غوياس. شغوف بالوسائط الرقمية والثقافة الشعبية والتكنولوجيا والسياسة والتحليل النفسي.
