Lídri OpenAI komentujú potrebu regulačného orgánu pre AI.

Umelá inteligencia je nástrojom súčasnosti. S jeho rýchlym vývojom padali rekordy v krátkom čase s fenomenálnym ChatGPT. Jej lídri sa však domnievajú, že je potrebný medzinárodný regulačný orgán, podobný tomu, ktorý riadi jadrovú energetiku. Existuje veľké znepokojenie zo škodlivého použitia nástroja na vytváranie dezinformácií a deepfakes.

V príspevku na blogu spoločnosti sa zakladateľ OpenAI Sam Altman, prezident Greg Brockman a hlavný vedec Ilya Sutskever spojili, aby poskytli ďalšie podrobnosti o tom, čo sa dá urobiť.

Čo hovorí blogový príspevok OpenAI?

Ľudia, ktorí vedú OpenAI, veria, že teraz je najlepší čas zamyslieť sa nad takzvaným „superinteligenčným riadením“. Spoločnosť pevne verí, že superinteligencia – systémy AI v najbližších 10 rokoch – bude oveľa výkonnejšia ako iné technológie, s ktorými sa ľudstvo zaoberalo.

Hovorí sa, že môžeme mať dramaticky úspešnejšiu budúcnosť, ale musíme vedieť, ako zvládnuť riziká, aby sme sa tam dostali. Autori komentujú, že „vzhľadom na možnosť existenčného rizika nemôžeme byť len reaktívni. A

jadrová energiaje bežne používaný historický príklad technológie s touto vlastnosťou; syntetická biológia je ďalším príkladom.

Svoje prvé časti končí vyhlásením, že musíme zmierniť riziká dnešnej technológie AI, ale že superinteligencia si bude vyžadovať špeciálne zaobchádzanie a koordináciu.

Ďalej hovorí o tomto vzťahu potreby regulačného orgánu, ako aj už existujúcej Medzinárodnej agentúry pre atómovú energiu Organizácie Spojených národov, OSN.

„Potrebujeme určitý stupeň koordinácie medzi hlavnými rozvojovými snahami, aby sme zabezpečili, že rozvoj superinteligencia sa vyskytuje spôsobom, ktorý nám umožňuje udržiavať bezpečnosť a pomáhať pri hladkej integrácii týchto systémov s spoločnosť."

„Je pravdepodobné, že nakoniec budeme potrebovať niečo ako [Medzinárodnú agentúru pre atómovú energiu] pre superspravodajské úsilie; akékoľvek úsilie presahujúce určitú hranicu kapacity (alebo zdrojov, ako je výpočtová technika) bude musieť podliehať medzinárodnej autorite, ktorá môže kontrolovať systémy, vyžadovať audity, testovať súlad s bezpečnostnými štandardmi, ukladať obmedzenia na stupne nasadenia a úrovne bezpečnosti, atď".

Spoločnosť považuje verejný príspevok v tomto procese za dôležitý

Hovorí sa, že riadenie výkonných systémov musí sprevádzať verejný dohľad. Som presvedčený, že ľudia na celom svete by mali mať právomoc demokraticky rozhodovať o tom, aké sú limity a normy systémy AI Spoločnosť upozorňuje, že takýto mechanizmus zatiaľ nevedia navrhnúť, no jeho vývoj prebieha. plánovanie.

Nakoniec sa zdôrazňuje, že je riskantné brániť vytvoreniu superinteligencie. Zdôrazňuje ich výhody a to, že počet aktérov, ktorí ich budujú, rýchlo narastá a je neodmysliteľnou súčasťou technologickej cesty. Spoločnosť žiada, aby opatrenia boli presné.

Ak chcete získať prístup k pôvodnej publikácii, kliknite tu.