คุณอาจใช้ – หรืออย่างน้อยก็เคยได้ยิน – ChatGPT เครื่องมือปัญญาประดิษฐ์มีการ "บูม" ในช่วงหลายเดือนที่ผ่านมา และเป็น "มือหมุน" ในการตอบคำถามหรือแม้แต่ทำงานที่ซับซ้อนมากขึ้น
อย่างไรก็ตาม ระบบได้ซ่อนความลับดำมืดไว้ – และผู้สร้างระบบก็รู้ พวกเขาไม่เพียงแต่รู้เท่านั้น แต่พวกเขายังแบกรับความรับผิดชอบด้วย
ดูเพิ่มเติม
Google พัฒนาเครื่องมือ AI เพื่อช่วยนักข่าวใน...
iPhone 2007 ของแท้ที่ยังไม่เปิดขายในราคาเกือบ 200,000 ดอลลาร์; ทราบ...
ให้เป็นไปตาม OpenAIบริษัทผู้สร้างเครื่องมือ ChatGPT ประสบปัญหา "ภาพหลอน" กล่าวคือสามารถให้ข้อมูลเท็จได้ในบางครั้ง
บริษัทได้ประกาศสถานการณ์ดังกล่าวเมื่อวันพุธที่ 31 พฤษภาคมที่ผ่านมา นอกจากนี้ พวกเขายังได้ประกาศวิธีการใหม่และมีประสิทธิภาพมากขึ้นในการฝึกอบรม AI
เหตุใดการแก้ไขพฤติกรรมที่ไม่เหมาะสมของ ChatGPT จึงมีความสำคัญ
คำอธิบายพื้นฐานคือผู้คนใช้เครื่องมือนี้เป็นจำนวนมากในชีวิตประจำวัน ดังนั้นจึงจำเป็นอย่างยิ่งที่ ChatGPT จะส่งข้อมูลที่เชื่อถือได้ไปยังผู้ที่ใช้
ตัวอย่างเช่น หากคุณใช้ AIเพื่อปรับปรุงข้อความงานโรงเรียนหรือค้นหาสูตรอาหารเฉพาะ จำเป็นอย่างยิ่งที่ข้อมูลในนั้นจะต้องถูกต้อง
ยิ่งไปกว่านั้น ด้วยจำนวนผู้ใช้แชทบอทที่เพิ่มขึ้น ข้อมูลเท็จสามารถแพร่กระจายได้ง่ายราวกับเป็นความจริง
และสิ่งนี้อาจทำให้ปวดหัวอย่างมากในปีหน้าเมื่อการเลือกตั้งของสหรัฐอเมริกาเริ่มต้นขึ้น และสิ่งนี้อาจลามไปถึงที่นี่ในบราซิลด้วย!
“แม้แต่โมเดลที่ทันสมัยก็ยังมีแนวโน้มที่จะสร้างเรื่องเท็จ — พวกมันมีแนวโน้มที่จะสร้างข้อเท็จจริงขึ้นมาในช่วงเวลาแห่งความไม่แน่นอน อาการประสาทหลอนเหล่านี้เป็นปัญหาอย่างยิ่งในพื้นที่ที่ต้องใช้เหตุผลหลายขั้นตอน เนื่องจากข้อผิดพลาดทางลอจิกเพียงครั้งเดียวก็เพียงพอแล้วที่จะทำให้โซลูชันที่มีขนาดใหญ่กว่าตกรางได้" OpenAI กล่าว สื่อสาร
จะทำอย่างไรเพื่อแก้ไข?
OpenAI รายงานว่าจะใช้กลยุทธ์ใหม่เพื่อต่อสู้กับ "ภาพหลอน" ของ ChatGPT: ฝึกโมเดล AI เพื่อให้รางวัลตัวเองสำหรับทุกย่างก้าวที่ถูกต้อง แทนที่จะให้รางวัลเธอในตอนท้ายด้วยคำตอบที่สมบูรณ์
“การตรวจจับและบรรเทาข้อผิดพลาดเชิงตรรกะหรือภาพหลอนของโมเดลเป็นขั้นตอนสำคัญต่อการสร้าง AI ที่สอดคล้องกันโดยรวม แรงจูงใจเบื้องหลังการวิจัยนี้คือเพื่อจัดการกับภาพหลอนเพื่อทำให้แบบจำลองมีความสามารถมากขึ้น แก้ปัญหาการให้เหตุผลที่ซับซ้อน” Karl Cobbe นักวิจัยคณิตศาสตร์ที่อธิบาย บริษัท.
จบการศึกษาด้านการสื่อสารทางสังคมที่ Federal University of Goiás หลงใหลในสื่อดิจิทัล วัฒนธรรมป๊อป เทคโนโลยี การเมือง และจิตวิเคราะห์