Čelnici OpenAI-ja komentiraju potrebu za regulatornim tijelom za AI.

Umjetna inteligencija je alat trenutka. Uz njegovu brzu evoluciju, rekordi su oboreni u kratkom vremenu s fenomenalnim ChatGPT-om. Međutim, njezini čelnici smatraju da je potrebno međunarodno regulatorno tijelo, slično onom koje upravlja nuklearnom energijom. Postoji velika zabrinutost zbog zlonamjerne upotrebe alata za stvaranje dezinformacija i deepfakes.

U objavi na blogu tvrtke, osnivač OpenAI-ja Sam Altman, predsjednik Greg Brockman i glavni znanstvenik Ilya Sutskever okupili su se kako bi pružili više pojedinosti o tome što se može učiniti.

Što kaže OpenAI blog post?

Ljudi koji vode OpenAI vjeruju da je sada najbolje vrijeme za razmišljanje o takozvanom "upravljanju superinteligencijom". Tvrtka čvrsto vjeruje da će superinteligencija - sustavi umjetne inteligencije u sljedećih 10 godina - biti mnogo moćniji od ostalih tehnologija s kojima se čovječanstvo susrelo.

Kaže se da možemo imati dramatično prosperitetniju budućnost, ali da moramo znati kako upravljati rizicima da bismo do toga došli. Autori komentiraju da, “s obzirom na mogućnost egzistencijalnog rizika, ne možemo biti samo reaktivni. A nuklearna energijaje uobičajeno korišten povijesni primjer tehnologije s ovim svojstvom; sintetička biologija je još jedan primjer.”

Svoje prve odjeljke završava izjavom da moramo ublažiti rizike današnje AI tehnologije, ali da će superinteligencija zahtijevati poseban tretman i koordinaciju.

Dalje govori o tom odnosu potrebe regulatornog tijela, kao i već postojeće Međunarodne agencije za atomsku energiju, Ujedinjenih naroda, UN-a.

“Potreban nam je određeni stupanj koordinacije između velikih razvojnih napora kako bismo osigurali da razvoj superinteligencija se javlja na način koji nam omogućuje održavanje sigurnosti i pomaže u glatkoj integraciji ovih sustava s društvo."

“Vjerojatno je da ćemo na kraju trebati nešto poput [Međunarodne agencije za atomsku energiju] za superobavještajne napore; svaki napor iznad određenog praga kapaciteta (ili resursa kao što je računalstvo) morat će biti predmet međunarodnog tijela koje može pregledati sustave, zahtijevati revizije, testirati usklađenost sa sigurnosnim standardima, nametnuti ograničenja na stupnjeve implementacije i razine sigurnosti, itd.".

Tvrtka vidi javni doprinos kao važan u procesu

Kaže se da upravljanje moćnim sustavima mora pratiti javni nadzor. Vjerujem da bi ljudi diljem svijeta trebali biti osnaženi da demokratski odlučuju koje su granice i standardi AI sustavi Iz tvrtke ističu da još ne znaju kako dizajnirati takav mehanizam, ali da je njegov razvoj u tijeku. planiranje.

Na kraju se ističe da je riskantno spriječiti stvaranje superinteligencije. Ističe njihove prednosti i činjenicu da se broj sudionika koji ih grade ubrzano povećava i da je inherentno dio tehnološkog puta. Tvrtka traži da mjere budu točne.

Za pristup izvornoj publikaciji kliknite ovdje.