OpenAI vadītāji komentē nepieciešamību pēc AI regulējošas iestādes.

Mākslīgais intelekts ir šī brīža instruments. Pateicoties tā straujajai attīstībai, rekordi tika pārspēti īsā laikā ar fenomenālo ChatGPT. Tomēr tās vadītāji uzskata, ka ir vajadzīga starptautiska regulējoša institūcija, līdzīga tai, kas pārvalda kodolenerģiju. Pastāv lielas bažas par rīka ļaunprātīgu izmantošanu, lai radītu dezinformāciju un dziļi viltojumi.

Ziņojumā uzņēmuma emuārā OpenAI dibinātājs Sems Altmens, prezidents Gregs Brokmens un galvenais zinātnieks Iļja Sutskevers sanāca kopā, lai sniegtu sīkāku informāciju par to, ko var darīt.

Kas teikts OpenAI emuāra ziņojumā?

OpenAI vadošie cilvēki uzskata, ka tagad ir labākais laiks, lai pārdomātu tā saukto “superinteliģences pārvaldību”. Uzņēmums ir stingri pārliecināts, ka superinteliģence - AI sistēmas nākamajos 10 gados - būs daudz jaudīgākas nekā citas tehnoloģijas, ar kurām cilvēce ir nodarbojusies.

Mēdz teikt, ka mums var būt ievērojami labklājīgāka nākotne, taču mums ir jāzina, kā pārvaldīt riskus, lai tur nokļūtu. Autori komentē, ka, “ņemot vērā eksistenciāla riska iespēju, mēs nevaram būt vienkārši reaģējoši. A atomenerģijair plaši izmantots vēsturisks piemērs tehnoloģijai ar šo īpašību; sintētiskā bioloģija ir vēl viens piemērs.

Tā noslēdz savas pirmās sadaļas, norādot, ka mums ir jāsamazina mūsdienu AI tehnoloģijas riski, taču superinteliģencei būs nepieciešama īpaša attieksme un koordinācija.

Viņš turpina runāt par šīm attiecībām, kas saistītas ar nepieciešamību pēc regulējošās iestādes, kā arī jau esošās Apvienoto Nāciju Organizācijas Starptautiskās Atomenerģijas aģentūras, ANO.

"Mums ir vajadzīga zināma koordinācijas pakāpe starp galvenajiem attīstības centieniem, lai nodrošinātu, ka attīstība superinteliģence notiek tādā veidā, kas ļauj mums uzturēt drošību un palīdzēt vienmērīgi integrēt šīs sistēmas ar sabiedrība."

"Iespējams, ka galu galā mums būs vajadzīgs kaut kas līdzīgs [Starptautiskajai atomenerģijas aģentūrai] superinteliģences centieniem; jebkurš darbs, kas pārsniedz noteiktu jaudas (vai resursu, piemēram, skaitļošanas) slieksni, būs jāpakļauj starptautiskai iestādei, kas var pārbaudīt sistēmas, pieprasīt auditus, pārbaudīt atbilstību drošības standartiem, noteikt ierobežojumus izvietošanas pakāpēm un drošības līmeņiem, utt".

Uzņēmums uzskata, ka sabiedrības ieguldījums šajā procesā ir svarīgs

Ir teikts, ka jaudīgu sistēmu pārvaldībai ir jāpavada valsts uzraudzība. Es uzskatu, ka cilvēkiem visā pasaulē jābūt pilnvarotiem demokrātiski izlemt, kādas ir robežas un standarti. AI sistēmas Uzņēmums norāda, ka joprojām nezina, kā izveidot šādu mehānismu, taču tā izstrāde notiek. plānošana.

Visbeidzot, tiek uzsvērts, ka ir riskanti nepieļaut superinteliģences izveidi. Tas izceļ to priekšrocības un to, ka to veidotāju skaits strauji pieaug, un tas ir daļa no tehnoloģiskā ceļa. Uzņēmums lūdz, lai pasākumiem būtu jābūt precīziem.

Lai piekļūtu oriģinālajai publikācijai, noklikšķiniet uz šeit.