מנהיגי OpenAI מעירים על הצורך בגוף רגולטורי עבור AI.

בינה מלאכותית היא הכלי של הרגע. עם ההתפתחות המהירה שלו, שיאים נשברו תוך זמן קצר עם ChatGPT הפנומנלי. עם זאת, מנהיגיה מאמינים כי יש צורך בגוף רגולטורי בינלאומי, בדומה לזה השולט באנרגיה גרעינית. קיים חשש עז לגבי שימוש זדוני בכלי ליצירת מידע מוטעה ו זיופים עמוקים.

בפוסט בבלוג של החברה, מייסד OpenAI, סם אלטמן, הנשיא גרג ברוקמן והמדען הראשי איליה סוצקבר התכנסו כדי לספק פרטים נוספים על מה ניתן לעשות.

מה אומר הפוסט בבלוג של OpenAI?

האנשים המובילים את OpenAI מאמינים שעכשיו זה הזמן הטוב ביותר להרהר במה שמכונה "ממשל מודיעין-על". החברה מאמינה מאוד שבינת-על - מערכות בינה מלאכותית בעשר השנים הקרובות - תהיה הרבה יותר חזקה מטכנולוגיות אחרות שהאנושות עסקה בהן.

אומרים שיכול להיות לנו עתיד משגשג באופן דרמטי, אבל אנחנו צריכים לדעת איך לנהל את הסיכונים כדי להגיע לשם. המחברים מעירים כי "בהינתן האפשרות של סיכון קיומי, איננו יכולים להיות רק תגובתיים. א אנרגיה גרעיניתהוא דוגמה היסטורית נפוצה לטכנולוגיה עם מאפיין זה; ביולוגיה סינתטית היא דוגמה נוספת."

זה מסיים את הסעיפים הראשונים שלו בקביעה שעלינו לצמצם את הסיכונים של טכנולוגיית הבינה המלאכותית של ימינו, אבל שמודיעין-על ידרוש טיפול ותיאום מיוחדים.

הוא ממשיך לדבר על הקשר הזה של הצורך בגוף רגולטורי, כמו גם על הסוכנות הבינלאומית לאנרגיה אטומית הקיימת כבר, של האו"ם, האו"ם.

"אנחנו צריכים מידה מסוימת של תיאום בין מאמצי הפיתוח הגדולים כדי להבטיח את הפיתוח של מודיעין על מתרחש באופן המאפשר לנו לשמור על אבטחה ולסייע באינטגרציה חלקה של מערכות אלו עם חֶברָה."

"סביר להניח שבסופו של דבר נזדקק למשהו כמו [הסוכנות הבינלאומית לאנרגיה אטומית] למאמצי מודיעין-על; כל מאמץ מעל סף מסוים של יכולת (או משאבים כגון מחשוב) יצטרך להיות כפוף לרשות בינלאומית שיכולה לבדוק מערכות, לדרוש ביקורת, לבדוק עמידה בתקני אבטחה, להטיל הגבלות על דרגות הפריסה ורמות האבטחה, וכו".

החברה רואה בתרומת הציבור חשובה בתהליך

אומרים שהממשל של מערכות חזקות חייב ללוות את הפיקוח הציבורי. אני מאמין שאנשים ברחבי העולם צריכים להיות מוסמכים להחליט באופן דמוקרטי מה הגבולות והסטנדרטים של מערכות AI בחברה מציינים כי הם עדיין לא יודעים כיצד לתכנן מנגנון כזה, אך פיתוחו נמצא בעיצומו. תִכנוּן.

לבסוף, מודגש כי מסוכן למנוע יצירת מודיעין-על. זה מדגיש את היתרונות שלהם ושמספר השחקנים הבונים אותם גדל במהירות והוא מטבעו חלק מהדרך הטכנולוגית. החברה מבקשת שהאמצעים יהיו מדויקים.

כדי לגשת לפרסום המקורי, לחץ כאן.