Az OpenAI vezetői megjegyezték, hogy szükség van a mesterséges intelligencia szabályozó testületére.

A mesterséges intelligencia a pillanat eszköze. Gyors fejlődésével a rekordokat rövid idő alatt megdöntötték a fenomenális ChatGPT-vel. Vezetői azonban úgy vélik, hogy szükség van egy olyan nemzetközi szabályozó testületre, amely hasonló az atomenergiát irányító szervezethez. Erős aggodalomra ad okot az eszköz rosszindulatú használata téves információk létrehozására és mélyhamisítványok.

A cég blogján megjelent bejegyzésben az OpenAI alapítója, Sam Altman, Greg Brockman elnök és Ilya Sutskever vezető tudós találkozott, hogy további részleteket adjanak meg a teendőkről.

Mit mond az OpenAI blogbejegyzés?

Az OpenAI vezetői úgy gondolják, hogy most van a legjobb alkalom az úgynevezett „szuperintelligencia-irányításról” való elmélkedésre. A vállalat szilárdan hisz abban, hogy a szuperintelligencia – a mesterséges intelligencia rendszerek a következő 10 évben – sokkal erősebb lesz, mint más technológiák, amelyekkel az emberiség foglalkozott.

Azt mondják, hogy drámaian virágzóbb jövőnk lehet, de tudnunk kell, hogyan kezeljük a kockázatokat, hogy odáig juthassunk. A szerzők megjegyzik, hogy „tekintve az egzisztenciális kockázat lehetőségére, nem lehetünk egyszerűen reaktívak. A nukleáris energiaaz ezzel a tulajdonsággal rendelkező technológia általánosan használt történelmi példája; a szintetikus biológia egy másik példa.”

Első részeit azzal zárja, hogy mérsékelnünk kell a mai mesterséges intelligencia technológia kockázatait, de a szuperintelligencia különleges bánásmódot és koordinációt igényel.

A továbbiakban arról a kapcsolatról beszél, hogy szükség van egy szabályozó testületre, valamint a már létező Nemzetközi Atomenergia Ügynökségre, az Egyesült Nemzetek Szervezetére, az ENSZ-re.

„Szükségünk van bizonyos fokú koordinációra a főbb fejlesztési erőfeszítések között, hogy biztosítsuk a fejlesztést a A szuperintelligencia olyan módon történik, hogy lehetővé teszi számunkra a biztonság fenntartását és elősegíti e rendszerek zökkenőmentes integrációját a társadalom."

„Valószínűleg végül szükségünk lesz valamire, mint egy [Nemzetközi Atomenergia Ügynökségre] a szuperintelligencia erőfeszítéseihez; egy bizonyos kapacitás (vagy erőforrás, például számítástechnika) küszöböt meghaladó erőfeszítéseket egy nemzetközi hatóságnak kell alávetni, amely rendszereket ellenőriz, auditokat ír elő, teszteli a biztonsági szabványoknak való megfelelést, korlátozásokat ír elő a telepítés mértékére és a biztonsági szintekre, stb".

A társaság fontosnak tartja az állami hozzájárulást a folyamatban

Azt mondják, hogy a nagy teljesítményű rendszerek irányításának kísérnie kell a közfelügyeletet. Úgy gondolom, hogy az embereket szerte a világon fel kell hatalmazni arra, hogy demokratikusan döntsék el, milyen határokat és szabványokat AI rendszerek A cég felhívja a figyelmet arra, hogy még mindig nem tudják, hogyan tervezzenek ilyen mechanizmust, de a fejlesztése folyamatban van. tervezés.

Végül hangsúlyozzák, hogy kockázatos megakadályozni egy szuperintelligencia létrejöttét. Kiemeli előnyeiket és azt, hogy az őket építő szereplők száma gyorsan növekszik, és eleve része a technológiai útnak. A cég kéri, hogy az intézkedések pontosak legyenek.

Az eredeti kiadvány eléréséhez kattintson a gombra itt.