ปัญญาประดิษฐ์เป็นเครื่องมือของช่วงเวลานี้ ด้วยวิวัฒนาการที่รวดเร็ว บันทึกถูกทำลายในเวลาอันสั้นด้วย ChatGPT ที่เป็นปรากฎการณ์ อย่างไรก็ตาม บรรดาผู้นำเชื่อว่าจำเป็นต้องมีหน่วยงานกำกับดูแลระหว่างประเทศ ซึ่งคล้ายกับหน่วยงานที่ควบคุมพลังงานนิวเคลียร์ มีความกังวลอย่างมากเกี่ยวกับการใช้เครื่องมือที่เป็นอันตรายเพื่อสร้างข้อมูลที่ผิดและ ของปลอม.
ในโพสต์บนบล็อกของบริษัท ผู้ก่อตั้ง OpenAI Sam Altman ประธาน Greg Brockman และหัวหน้านักวิทยาศาสตร์ Ilya Sutskever ได้มารวมตัวกันเพื่อให้รายละเอียดเพิ่มเติมเกี่ยวกับสิ่งที่สามารถทำได้
ดูเพิ่มเติม
Google พัฒนาเครื่องมือ AI เพื่อช่วยนักข่าวใน...
iPhone 2007 ของแท้ที่ยังไม่เปิดขายในราคาเกือบ 200,000 ดอลลาร์; ทราบ...
โพสต์บล็อก OpenAI พูดว่าอย่างไร
ผู้คนที่เป็นผู้นำของ OpenAI เชื่อว่าตอนนี้เป็นเวลาที่ดีที่สุดในการสะท้อนถึงสิ่งที่เรียกว่า บริษัทเชื่อมั่นอย่างยิ่งว่าระบบข่าวกรองอัจฉริยะ หรือระบบ AI ในอีก 10 ปีข้างหน้า จะมีประสิทธิภาพมากกว่าเทคโนโลยีอื่นๆ ที่มนุษยชาติเคยเผชิญ
ว่ากันว่า เราสามารถมีอนาคตที่รุ่งเรืองกว่านี้ได้อย่างมาก แต่เราต้องรู้วิธีจัดการความเสี่ยงเพื่อไปถึงจุดนั้น ผู้เขียนแสดงความคิดเห็นว่า “เมื่อพิจารณาถึงความเป็นไปได้ของความเสี่ยงที่มีอยู่ เราไม่สามารถตอบโต้ได้ ก
พลังงานนิวเคลียร์เป็นตัวอย่างทางประวัติศาสตร์ที่ใช้กันทั่วไปของเทคโนโลยีที่มีคุณสมบัตินี้ ชีววิทยาสังเคราะห์เป็นอีกตัวอย่างหนึ่ง”
มันจบส่วนแรกด้วยการระบุว่าเราต้องลดความเสี่ยงของเทคโนโลยี AI ในปัจจุบัน แต่ความฉลาดหลักแหลมนั้นต้องการการดูแลและการประสานงานเป็นพิเศษ
เขาพูดต่อไปเกี่ยวกับความสัมพันธ์ของความจำเป็นในการมีหน่วยงานกำกับดูแล เช่นเดียวกับสำนักงานพลังงานปรมาณูระหว่างประเทศที่มีอยู่แล้วของสหประชาชาติ หรือ UN
“เราต้องการการประสานงานในระดับหนึ่งระหว่างความพยายามในการพัฒนาที่สำคัญเพื่อให้แน่ใจว่าการพัฒนาของ ความฉลาดหลักแหลมเกิดขึ้นในลักษณะที่ช่วยให้เราสามารถรักษาความปลอดภัยและช่วยในการบูรณาการที่ราบรื่นของระบบเหล่านี้กับ สังคม."
“มีแนวโน้มว่าในที่สุดแล้วเราต้องการบางอย่าง เช่น [สำนักงานพลังงานปรมาณูระหว่างประเทศ] สำหรับความพยายามด้านการข่าวกรอง ความพยายามใด ๆ ที่เหนือขีดจำกัดของความสามารถ (หรือทรัพยากร เช่น การคำนวณ) จะต้องอยู่ภายใต้อำนาจระหว่างประเทศที่สามารถ ตรวจสอบระบบ, ต้องมีการตรวจสอบ, ทดสอบการปฏิบัติตามมาตรฐานความปลอดภัย, กำหนดข้อจำกัดในระดับการใช้งานและระดับความปลอดภัย, ฯลฯ".
บริษัทเห็นการมีส่วนร่วมของประชาชนเป็นสิ่งสำคัญในกระบวนการ
กล่าวกันว่าการปกครองของระบบที่มีอำนาจจะต้องมาพร้อมกับการกำกับดูแลของประชาชน ฉันเชื่อว่าผู้คนทั่วโลกควรได้รับอำนาจในการตัดสินใจตามระบอบประชาธิปไตยว่าขอบเขตและมาตรฐานใด ระบบเอไอ บริษัทชี้ให้เห็นว่าพวกเขายังไม่รู้วิธีการออกแบบกลไกดังกล่าว แต่กำลังดำเนินการพัฒนาอยู่ การวางแผน.
สุดท้ายนี้ขอย้ำว่ามีความเสี่ยงที่จะขัดขวางการสร้างปัญญาขั้นสูงสุด มันเน้นถึงข้อได้เปรียบของพวกเขาและจำนวนผู้ดำเนินการสร้างพวกเขาเพิ่มขึ้นอย่างรวดเร็วและเป็นส่วนหนึ่งของเส้นทางเทคโนโลยีโดยเนื้อแท้ บริษัทขอให้มาตรการถูกต้อง
หากต้องการเข้าถึงสิ่งพิมพ์ต้นฉบับ ให้คลิก ที่นี่.