Tehisintellekt on hetke tööriist. Selle kiire arenguga purustati rekordid lühikese aja jooksul fenomenaalse ChatGPT-ga. Selle juhid usuvad aga, et vaja on rahvusvahelist reguleerivat organit, mis sarnaneks tuumaenergiat reguleeriva organiga. Tuntakse suurt muret tööriista pahatahtliku kasutamise pärast valeinformatsiooni loomiseks ja sügavad võltsingud.
Ettevõtte ajaveebi postituses tulid OpenAI asutaja Sam Altman, president Greg Brockman ja juhtivteadur Ilya Sutskever kokku, et anda rohkem üksikasju selle kohta, mida saab teha.
näe rohkem
Google arendab AI tööriista, mis aitab ajakirjanikel…
Avamata originaal 2007 iPhone müüb peaaegu $ 200 000; tea...
Mida ütleb OpenAI ajaveebi postitus?
OpenAI juhid usuvad, et praegu on parim aeg nn superintellekti juhtimise üle järele mõelda. Ettevõte usub kindlalt, et superintelligentsus - AI-süsteemid järgmise 10 aasta jooksul - on palju võimsam kui muud tehnoloogiad, millega inimkond on tegelenud.
Öeldakse, et meil võib olla dramaatiliselt jõukam tulevik, kuid selleni jõudmiseks peame teadma, kuidas riske maandada. Autorid kommenteerivad, et „eksistentsiaalse riski võimalust arvestades ei saa me olla lihtsalt reaktiivsed. A
tuumaenergiaon sageli kasutatav ajalooline näide selle omadusega tehnoloogiast; sünteetiline bioloogia on veel üks näide.
See lõpetab oma esimesed lõigud väitega, et peame maandama tänapäeva tehisintellekti tehnoloogia riske, kuid superintelligents nõuab erilist kohtlemist ja kooskõlastamist.
Edasi räägib ta reguleeriva asutuse vajaduse ja ÜRO juba olemasoleva Rahvusvahelise Aatomienergiaagentuuri vajaduse suhtest.
„Me vajame suuremate arendustegevuste vahel teataval määral koordineerimist, et tagada, et superintelligentsus toimub viisil, mis võimaldab meil säilitada turvalisust ja aidata neid süsteeme sujuvalt integreerida ühiskond."
„On tõenäoline, et lõpuks on meil superluureks vaja midagi [Rahvusvahelise Aatomienergiaagentuuri] taolist; kõik jõupingutused, mis ületavad teatud võimsuse (või ressursside, näiteks andmetöötluse) läve, peavad alluma rahvusvahelisele asutusele, kes suudab kontrollida süsteeme, nõuda auditeid, testida vastavust turvastandarditele, kehtestada piiranguid kasutuselevõtuastmetele ja turvatasemetele, jne".
Ettevõte peab avalikku panust protsessis oluliseks
Väidetavalt peab avaliku järelevalvega kaasnema võimsate süsteemide juhtimine. Usun, et inimestel kogu maailmas peaks olema õigus demokraatlikult otsustada, millised on piirid ja standardid. AI süsteemid Ettevõte juhib tähelepanu, et nad veel ei tea, kuidas sellist mehhanismi kavandada, kuid selle väljatöötamine on pooleli. planeerimine.
Lõpetuseks rõhutatakse, et superintelligentsi loomise takistamine on riskantne. See rõhutab nende eeliseid ja seda, et neid ehitavate osalejate arv kasvab kiiresti ning on oma olemuselt osa tehnoloogilisest teest. Ettevõte palub, et meetmed oleksid täpsed.
Algse väljaande avamiseks klõpsake nuppu siin.