चैटजीपीटी: निर्माता गहरे रहस्य को उजागर करते हैं

आप संभवतः चैटजीपीटी का उपयोग करते हैं - या कम से कम इसके बारे में सुना है। आर्टिफिशियल इंटेलिजेंस टूल में हाल के महीनों में "बूम" आया है और यह सवालों के जवाब देने या यहां तक ​​कि अधिक जटिल कार्य करने के लिए "हैंड ऑन द व्हील" रहा है।

हालाँकि, सिस्टम एक गहरा रहस्य छुपाता है - और इसके निर्माता इसे जानते हैं। न केवल वे जानते हैं, बल्कि वे इसकी जिम्मेदारी भी उठा रहे हैं।

के अनुसार ओपनएआई, टूल बनाने वाली कंपनी ChatGPT "मतिभ्रम" से ग्रस्त है। यानी यह कई बार गलत जानकारी भी दे सकता है.

कंपनी द्वारा पिछले बुधवार, 31 मई को स्थिति की घोषणा की गई थी। इसके अलावा, उन्होंने एआई के प्रशिक्षण के लिए एक नई और अधिक शक्तिशाली विधि की भी घोषणा की है।

इस चैटजीपीटी दुर्व्यवहार को ठीक करना क्यों महत्वपूर्ण है?

मूल व्याख्या यह है कि लोग अपने दैनिक जीवन में इस उपकरण का बहुत उपयोग करते हैं। इसलिए, यह जरूरी है कि चैटजीपीटी इसका उपयोग करने वालों को विश्वसनीय जानकारी दे।

उदाहरण के लिए, यदि आप उपयोग करते हैं

ऐकिसी स्कूल कार्य पाठ को बेहतर बनाने के लिए, या विशिष्ट व्यंजनों की तलाश करने के लिए, यह आवश्यक है कि वहां दी गई जानकारी सही हो।

इससे भी अधिक, चैटबॉट उपयोगकर्ताओं की बढ़ती संख्या के साथ, झूठी जानकारी आसानी से फैलाई जा सकती है जैसे कि यह सच हो।

और यह अगले साल एक बड़ा सिरदर्द पैदा कर सकता है, जब संयुक्त राज्य अमेरिका के चुनाव शुरू होंगे - और यह ब्राजील में भी फैल सकता है!

“यहां तक ​​कि अत्याधुनिक मॉडलों में भी झूठ पैदा करने की प्रवृत्ति होती है - वे अनिश्चितता के क्षणों में तथ्य गढ़ने की प्रवृत्ति प्रदर्शित करते हैं। ये मतिभ्रम विशेष रूप से उन डोमेन में समस्याग्रस्त हैं जिनके लिए बहु-चरणीय तर्क की आवश्यकता होती है, ए चूँकि एक एकल तर्क त्रुटि एक बहुत बड़े समाधान को पटरी से उतारने के लिए पर्याप्त है," OpenAI ने कहा संचार किया.

ठीक करने के लिए क्या करें?

OpenAI ने बताया कि वह "मतिभ्रम" से निपटने के लिए एक नई रणनीति का उपयोग करेगा चैटजीपीटी: हर सही कदम के लिए खुद को पुरस्कृत करने के लिए एआई मॉडल को प्रशिक्षित करें। अंत में संपूर्ण उत्तर देकर उसे पुरस्कृत करने के बजाय।

“किसी मॉडल की तार्किक त्रुटियों या मतिभ्रम का पता लगाना और उसे कम करना एक समग्र संरेखित एआई के निर्माण की दिशा में एक महत्वपूर्ण कदम है। इस शोध के पीछे प्रेरणा मॉडलों को अधिक सक्षम बनाने के लिए मतिभ्रम को संबोधित करना है जटिल तर्क समस्याओं को हल करें,'' गणित के शोधकर्ता कार्ल कोबे ने समझाया कंपनी।

गोइआस के संघीय विश्वविद्यालय से सामाजिक संचार में स्नातक की उपाधि प्राप्त की। डिजिटल मीडिया, पॉप संस्कृति, प्रौद्योगिकी, राजनीति और मनोविश्लेषण के प्रति जुनूनी।