Umetna inteligenca je orodje tega trenutka. S svojim hitrim razvojem so bili rekordi podrti v kratkem času s fenomenalnim ChatGPT. Vendar njeni voditelji menijo, da je potreben mednarodni regulatorni organ, podoben tistemu, ki ureja jedrsko energijo. Obstaja velika zaskrbljenost glede zlonamerne uporabe orodja za ustvarjanje napačnih informacij in deepfakes.
V objavi na spletnem dnevniku podjetja so se ustanovitelj OpenAI Sam Altman, predsednik Greg Brockman in glavni znanstvenik Ilya Sutskever zbrali, da bi zagotovili več podrobnosti o tem, kaj je mogoče storiti.
Poglej več
Google razvija orodje AI za pomoč novinarjem pri...
Neodprt originalni iPhone iz leta 2007 se prodaja za skoraj 200.000 $; vedeti...
Kaj pravi objava v blogu OpenAI?
Ljudje, ki vodijo OpenAI, verjamejo, da je zdaj najboljši čas za razmislek o tako imenovanem "superinteligenčnem upravljanju". Družba je trdno prepričana, da bo superinteligenca – sistemi AI v naslednjih 10 letih – veliko močnejša od drugih tehnologij, s katerimi se je človeštvo soočalo.
Rečeno je, da imamo lahko dramatično uspešnejšo prihodnost, vendar moramo vedeti, kako obvladovati tveganja, da to dosežemo. Avtorji komentirajo, da »glede na možnost eksistencialnega tveganja ne moremo biti kar reaktivni. A Nuklearna energijaje pogosto uporabljen zgodovinski primer tehnologije s to lastnostjo; sintetična biologija je še en primer."
Svoje prve dele konča z navedbo, da moramo ublažiti tveganja današnje tehnologije umetne inteligence, vendar bo superinteligenca zahtevala posebno obravnavo in usklajevanje.
V nadaljevanju govori o tem razmerju potrebe po regulatornem organu, pa tudi o že obstoječi Mednarodni agenciji za atomsko energijo Združenih narodov, ZN.
»Potrebujemo določeno stopnjo koordinacije med glavnimi razvojnimi prizadevanji, da zagotovimo, da bo razvoj superinteligenca se pojavi na način, ki nam omogoča ohranjanje varnosti in pomoč pri nemoteni integraciji teh sistemov z družba."
»Verjetno bomo sčasoma potrebovali nekaj podobnega [Mednarodni agenciji za atomsko energijo] za superobveščevalna prizadevanja; kakršen koli napor nad določenim pragom zmogljivosti (ali virov, kot je računalništvo) bo moral biti predmet mednarodnega organa, ki lahko pregledovati sisteme, zahtevati revizije, testirati skladnost z varnostnimi standardi, nalagati omejitve glede stopenj uvajanja in ravni varnosti, itd".
Podjetje vidi javni prispevek kot pomemben v procesu
Rečeno je, da mora upravljanje močnih sistemov spremljati javni nadzor. Verjamem, da je treba ljudem po vsem svetu omogočiti, da demokratično odločajo o mejah in standardih sistemi AI V podjetju poudarjajo, da še vedno ne vedo, kako zasnovati tak mehanizem, a da je njegov razvoj v teku. načrtovanje.
Na koncu je poudarjeno, da je tvegano preprečiti nastanek superinteligence. Poudarja njihove prednosti in dejstvo, da se število akterjev, ki jih gradijo, hitro povečuje in je sam po sebi del tehnološke poti. Podjetje zahteva natančnost ukrepov.
Za dostop do izvirne publikacije kliknite tukaj.
