Dirbtinis intelektas yra akimirkos įrankis. Sparčiai vystantis, rekordai buvo sumušti per trumpą laiką su fenomenaliu ChatGPT. Tačiau jos vadovai mano, kad reikia tarptautinės reguliavimo institucijos, panašios į tą, kuri valdo branduolinę energiją. Didelį susirūpinimą kelia piktybinis įrankio naudojimas siekiant sukurti dezinformaciją ir gilios klastotės.
Įmonės tinklaraščio įraše „OpenAI“ įkūrėjas Samas Altmanas, prezidentas Gregas Brockmanas ir vyriausiasis mokslininkas Ilja Sutskeveris susirinko pateikti daugiau informacijos apie tai, ką galima padaryti.
Žiūrėti daugiau
„Google“ kuria AI įrankį, padedantį žurnalistams…
Neatidarytas originalus 2007 m. iPhone parduodamas už beveik 200 000 USD; žinoti...
Ką sako OpenAI tinklaraščio įrašas?
OpenAI vadovaujantys žmonės mano, kad dabar pats tinkamiausias metas apmąstyti vadinamąjį „superintelekto valdymą“. Bendrovė tvirtai tiki, kad superintelektas – AI sistemos per ateinančius 10 metų – bus daug galingesnis nei kitos technologijos, su kuriomis susidūrė žmonija.
Sakoma, kad galime turėti daug klestinčią ateitį, tačiau turime žinoti, kaip valdyti riziką, kad ten patektume. Autoriai komentuoja, kad „atsižvelgdami į egzistencinės rizikos galimybę, negalime tiesiog būti reaktyvūs. A atominė energijayra dažnai naudojamas istorinis šios savybės technologijos pavyzdys; sintetinė biologija yra dar vienas pavyzdys.
Pirmosios dalys baigiasi teigdami, kad turime sumažinti šiandieninės dirbtinio intelekto technologijos riziką, tačiau superintelektui reikės ypatingo elgesio ir koordinavimo.
Toliau jis kalba apie šį ryšį tarp reguliavimo institucijos, taip pat jau veikiančios Tarptautinės atominės energijos agentūros, Jungtinių Tautų, JT.
„Mums reikia tam tikro koordinavimo tarp pagrindinių plėtros pastangų, kad būtų užtikrinta, jog superintelektas atsiranda tokiu būdu, kuris leidžia mums išlaikyti saugumą ir padėti sklandžiai integruoti šias sistemas su visuomenė“.
„Tikėtina, kad galiausiai mums prireiks kažko panašaus į [Tarptautinę atominės energijos agentūrą] superžvalgybos pastangoms; bet kokios pastangos, viršijančios tam tikrą pajėgumų (arba išteklių, pvz., kompiuterių, ribą), turės būti pavaldios tarptautinei institucijai, kuri gali tikrinti sistemas, reikalauti audito, tikrinti, ar laikomasi saugumo standartų, nustatyti diegimo laipsnio ir saugumo lygių apribojimus, ir tt".
Bendrovė mano, kad visuomenės indėlis yra svarbus šiame procese
Teigiama, kad galingų sistemų valdymas turi lydėti viešąją priežiūrą. Manau, kad žmonėms visame pasaulyje turėtų būti suteikta teisė demokratiškai nuspręsti, kokios yra ribos ir standartai. AI sistemos Bendrovė atkreipia dėmesį, kad dar nežino, kaip sukurti tokį mechanizmą, tačiau jo kūrimas vyksta. planavimas.
Galiausiai pabrėžiama, kad rizikinga užkirsti kelią superintelekto sukūrimui. Jame pabrėžiami jų pranašumai ir tai, kad juos kuriančių veikėjų skaičius sparčiai didėja ir yra neatsiejama technologinio kelio dalis. Bendrovė prašo, kad priemonės būtų tikslios.
Norėdami pasiekti originalų leidinį, spustelėkite čia.
