OpenAI ლიდერები კომენტარს აკეთებენ ხელოვნური ინტელექტის მარეგულირებელი ორგანოს საჭიროებაზე.

ხელოვნური ინტელექტი არის მომენტის ინსტრუმენტი. მისი სწრაფი ევოლუციით, რეკორდები მოკლე დროში მოხსნა ფენომენალური ChatGPT-ით. თუმცა, მისი ლიდერები თვლიან, რომ საჭიროა საერთაშორისო მარეგულირებელი ორგანო, ისეთი, როგორიც ბირთვულ ენერგიას მართავს. არსებობს ძლიერი შეშფოთება ინსტრუმენტის მავნე გამოყენების შესახებ დეზინფორმაციის შესაქმნელად და ღრმაფეიქსი.

კომპანიის ბლოგზე გამოქვეყნებულ პოსტში OpenAI-ის დამფუძნებელი სემ ალტმანი, პრეზიდენტი გრეგ ბროკმანი და მთავარი მეცნიერი ილია სუცკევერი შეიკრიბნენ, რათა მეტი დეტალები მიეწოდებინათ იმის შესახებ, თუ რა შეიძლება გაკეთდეს.

რას ამბობს OpenAI ბლოგის პოსტი?

OpenAI-ის ლიდერები თვლიან, რომ ახლა საუკეთესო დროა ეგრეთ წოდებული „ზედაზვერვის მმართველობაზე“ დასაფიქრებლად. კომპანიას მტკიცედ სჯერა, რომ სუპერინტელექტი - ხელოვნური ინტელექტის სისტემები მომდევნო 10 წლის განმავლობაში - ბევრად უფრო მძლავრი იქნება, ვიდრე სხვა ტექნოლოგიები, რომლებთანაც კაცობრიობა გაუმკლავდა.

ამბობენ, რომ შეიძლება გვქონდეს მკვეთრად უფრო აყვავებული მომავალი, მაგრამ ჩვენ უნდა ვიცოდეთ, როგორ ვმართოთ რისკები, რომ მივაღწიოთ მას. ავტორები კომენტარს აკეთებენ, რომ „ეგზისტენციალური რისკის შესაძლებლობის გათვალისწინებით, ჩვენ არ შეგვიძლია უბრალოდ რეაქტიული ვიყოთ. ა ბირთვული ენერგიაარის ამ საკუთრების მქონე ტექნოლოგიის ხშირად გამოყენებული ისტორიული მაგალითი; სინთეტიკური ბიოლოგია კიდევ ერთი მაგალითია“.

იგი ამთავრებს თავის პირველ ნაწილებს იმით, რომ ჩვენ უნდა შევამციროთ დღევანდელი ხელოვნური ინტელექტის ტექნოლოგიის რისკები, მაგრამ სუპერინტელექტი მოითხოვს სპეციალურ მკურნალობას და კოორდინაციას.

ის აგრძელებს საუბარს მარეგულირებელი ორგანოს, ისევე როგორც უკვე არსებული ატომური ენერგიის საერთაშორისო სააგენტოს, გაეროს, გაერო-ს აუცილებლობის შესახებ.

„ჩვენ გვჭირდება გარკვეული კოორდინაცია განვითარების ძირითად მცდელობებს შორის, რათა უზრუნველყოს, რომ განვითარება სუპერინტელექტი ხდება ისე, რომ საშუალებას გვაძლევს შევინარჩუნოთ უსაფრთხოება და დავეხმაროთ ამ სისტემების გლუვ ინტეგრაციას საზოგადოება."

„სავარაუდოა, რომ საბოლოოდ ჩვენ დაგვჭირდება რაღაც [ატომური ენერგიის საერთაშორისო სააგენტოს] მსგავსი სუპერდაზვერვის ძალისხმევისთვის; ნებისმიერი ძალისხმევა, რომელიც აღემატება სიმძლავრის გარკვეულ ზღვარს (ან რესურსებს, როგორიცაა გამოთვლა) უნდა დაექვემდებაროს საერთაშორისო ორგანოს, რომელსაც შეუძლია შეამოწმეთ სისტემები, მოითხოვეთ აუდიტი, შეამოწმეთ უსაფრთხოების სტანდარტებთან შესაბამისობა, დააწესეთ შეზღუდვები განლაგების ხარისხზე და უსაფრთხოების დონეებზე, და ა.შ".

კომპანია ამ პროცესში მნიშვნელოვან როლს ხედავს

ამბობენ, რომ ძლიერი სისტემების მმართველობა უნდა ახლდეს საზოგადოებრივ ზედამხედველობას. მე მჯერა, რომ ადამიანებს მთელ მსოფლიოში უნდა მიეცეთ უფლება, დემოკრატიულად გადაწყვიტონ რა საზღვრები და სტანდარტები AI სისტემები კომპანიაში აღნიშნავენ, რომ ჯერ კიდევ არ იციან როგორ შეიმუშავონ ასეთი მექანიზმი, თუმცა მისი დამუშავება მიმდინარეობს. დაგეგმვა.

და ბოლოს, ხაზგასმულია, რომ სარისკოა სუპერინტელექტის შექმნის პრევენცია. ის ხაზს უსვამს მათ უპირატესობებს და რომ მათ მშენებელ მსახიობთა რიცხვი სწრაფად იზრდება და არსებითად არის ტექნოლოგიური გზის ნაწილი. კომპანია ითხოვს, რომ ზომები იყოს ზუსტი.

ორიგინალურ პუბლიკაციაზე წვდომისთვის დააწკაპუნეთ აქ.