Tekoäly on hetken työkalu. Sen nopean kehityksen ansiosta ennätykset rikottiin lyhyessä ajassa ilmiömäisellä ChatGPT: llä. Sen johtajat kuitenkin uskovat, että tarvitaan kansainvälinen sääntelyelin, samanlainen kuin ydinenergiaa hallitseva elin. On erittäin huolestuttavaa työkalun haitallisesta käytöstä väärän tiedon luomiseen ja syvät väärennökset.
Yrityksen blogiin julkaistussa viestissä OpenAI: n perustaja Sam Altman, presidentti Greg Brockman ja johtava tutkija Ilya Sutskever kokoontuivat antamaan lisätietoja siitä, mitä voidaan tehdä.
Katso lisää
Google kehittää tekoälytyökalua auttamaan toimittajia…
Avaamaton alkuperäinen 2007 iPhone myy lähes 200 000 dollaria; tietää...
Mitä OpenAI-blogiviesti sanoo?
OpenAI: ta johtavat ihmiset uskovat, että nyt on paras aika pohtia niin sanottua "superälykkyyden hallintoa". Yhtiö uskoo vahvasti, että superäly – tekoälyjärjestelmät seuraavan 10 vuoden aikana – on paljon tehokkaampi kuin muut teknologiat, joita ihmiskunta on käsitellyt.
Sanotaan, että meillä voi olla dramaattisesti vauraampi tulevaisuus, mutta meidän on tiedettävä, kuinka hallita riskejä päästäksemme sinne. Kirjoittajat kommentoivat, että "kun otetaan huomioon eksistentiaalisen riskin mahdollisuus, emme voi olla vain reaktiivisia. A
ydinenergiaon yleisesti käytetty historiallinen esimerkki tekniikasta, jolla on tämä ominaisuus; synteettinen biologia on toinen esimerkki."
Se päättää ensimmäiset osansa toteamalla, että meidän on vähennettävä nykypäivän tekoälyteknologian riskejä, mutta että superäly vaatii erityiskäsittelyä ja koordinointia.
Hän puhuu edelleen tästä sääntelyelimen tarpeesta sekä jo olemassa olevasta Yhdistyneiden Kansakuntien kansainvälisestä atomienergiajärjestöstä YK: sta.
”Tarvitsemme jonkinasteista koordinaatiota suurten kehitystoimien välillä varmistaaksemme, että kehitys yliäly tapahtuu tavalla, jonka avulla voimme ylläpitää turvallisuutta ja auttaa näiden järjestelmien sujuvassa integroinnissa yhteiskunta."
"On todennäköistä, että lopulta tarvitsemme jotain [Kansainvälisen atomienergiajärjestön] kaltaista superälytyötä varten; kaikki tietyn kapasiteetin (tai resurssien, kuten tietojenkäsittelyn) kynnyksen ylittävät ponnistelut on alistettava kansainväliselle viranomaiselle, joka voi tarkastaa järjestelmät, vaatia auditointeja, testata turvallisuusstandardien noudattamista, asettaa rajoituksia käyttöönottoasteisiin ja suojaustasoihin, jne".
Yhtiö näkee julkisen panoksen tärkeänä prosessissa
Sanotaan, että tehokkaiden järjestelmien hallinnon on seurattava julkista valvontaa. Uskon, että ihmisillä ympäri maailmaa pitäisi olla valta päättää demokraattisesti, mitkä ovat rajat ja standardit. AI-järjestelmät Yhtiö huomauttaa, että he eivät vielä osaa suunnitella tällaista mekanismia, mutta sen kehitys on käynnissä. suunnittelu.
Lopuksi korostetaan, että superälyn syntymisen estäminen on riskialtista. Se korostaa niiden etuja ja sitä, että niitä rakentavien toimijoiden määrä kasvaa nopeasti ja on luonnostaan osa teknologista polkua. Yhtiö vaatii, että toimenpiteiden on oltava tarkkoja.
Pääset alkuperäiseen julkaisuun napsauttamalla tässä.