חברות מתחייבות 'להגן' על האנושות מבינה מלאכותית; לראות אילו

הבית הלבן אישר, בשבוע שעבר, כי Adobe, IBM, Palantir, Nvidia ו-Salesforce, יחד עם שלוש חברות נוספות בינה מלאכותית (AI), אימצו תקני אבטחה ואמינות מרצון.

חברות אלו מצטרפות לשמות מוכרים כבר בפלח, כגון אמזון, אנתרופיק, גוגל, Inflection AI, מיקרוסופט ו-OpenAI, שהתחייבה ליוזמה זו ביולי.

למרות שתקנים אלה אינם מוסדרים ואינם נמצאים בפיקוח ממשלתי, הם מייצגים מאמץ משותף להגברת האמון בהתפתחות הטכנולוגיה.

הרלוונטיות ההולכת וגוברת של AI, שהוגברה על ידי השקת ChatGPT של OpenAI בשנה הקודמת, הציבה את הטכנולוגיה במרכז תשומת לב, עם השפעות בולטות על כוח העבודה, הפצת מידע שגוי וחששות לגבי התפתחויות אוטונומי.

בשל אתגרים כאלה, וושינגטון ראתה ויכוחים אינטנסיביים בין מחוקקים, רגולטורים ויזמים בתחום על איך לנהל ולהנחות את התקדמות הבינה המלאכותית.

ענקיות טכנולוגיה יעידו בפני הסנאט על תקנות בינה מלאכותית

בסדרה של אירועים שמטרתם להסדיר AI, בראד סמית' ממיקרוסופט וויליאם דאלי מ Nvidia, אמורות להעיד בשימוע בפני ועדת המשנה של הסנאט לפרטיות, טכנולוגיה ו חוֹק.

בעוד מספר ימים תתקיים פגישה ברמה גבוהה בין מחוקקים באירוע בינה מלאכותית בהנחיית הסנאטור הדמוקרטי מניו יורק צ'אק שומר לבין היזמים הבאים:

• אילון מאסק (SpaceX, Tesla, בין היתר);

• מארק צוקרברג (מטה);

• סם אלטמן (OpenAI);

• סונדאר פיצ'אי (גוגל).

ג'ף זינטס, ראש הסגל של הבית הלבן, הגיב למחויבות הגוברת של חברות טכנולוגיה, וקבע כי "הנשיא היה ברור: רתום את היתרונות של AI, נהל את הסיכונים והתקדם בִּמְהִירוּת. ואת המחויבות הזו אנחנו מפגינים בשותפות עם המגזר הפרטי".

(תמונה: גילוי נאות)

החברות, שהכירו באחריותן, הסכימו:

• להעריך מוצרים עתידיים עבור סיכוני בטיחות פוטנציאליים;

• הצג סימני מים לזיהוי תוכן שנוצר בינה מלאכותית;

• שתף מידע על איומי אבטחה;

• דווח על מגמות שנצפו במערכות שלך.

מעקב ממשלת ארה"ב מול אתגרי ביטחון

הצמיחה המואצת של AI בעשורים האחרונים עוררה שורה של ויכוחים בקנה מידה עולמי.

במוקד הדיונים הללו, ארצות הברית, מעצמה טכנולוגית, הראתה דאגה לגבי ההשפעות של טכנולוגיה זו.

הממשלה האמריקאית, עם זיהוי הפוטנציאל הטרנספורמטיבי של AI, הפנתה את תשומת לבה יותר להשלכות האבטחה הנובעות ממהפכה טכנולוגית כזו.

הדאגה אינה מוגבלת רק להגנה על מידע ופרטיות, אלא משתרעת על שלמות המערכות נושאים קריטיים, איומים פוטנציאליים על התשתית הלאומית ואפשרות של שימוש לרעה ב-AI בתרחישים קונפליקטואלי.

הכרה כזו משקפת את הדחיפות בקביעת קווים מנחים ברורים ותקנות חזקות המבטיחות התפתחות בטוחה ואתית של בינה מלאכותית.