Superinteligentni sistemi se zaradi tehnološke tekme že ustvarjajo in razširjajo po vsem svetu. Zaradi tega se postavlja nekaj vprašanj: ali je to mogoče nadzirati umetno inteligenco kako daleč? Kako pripravljeni smo na boj a AI ki deluje preko človeških zmožnosti? Kako etično je ustvariti program, katerega posledic in učinkov še ni mogoče izmeriti? Zdaj si oglejte več informacij o teh vprašanjih, ki so jih postavili znanstveniki.
Preberi več: 7 aplikacij umetne inteligence: nekatere že nadomeščajo človeško delo
Poglej več
Opozorilo: TA strupena rastlina je pripeljala mladeniča v bolnišnico
Google razvija orodje AI za pomoč novinarjem pri...
Umetna inteligenca s superinteligenco
Sliši se kot zaplet znanstvenofantastičnega filma, a resnica je, da lahko umetna inteligenca dejansko ustvari avtonomijo za učenje ukazov, ki se lahko kasneje obrnejo proti ljudem. Ni zagotovljeno, na primer, da bodo upoštevali pravila, kot je "ne povzročaj škode človeštvu", saj da bodo programirani za avtonomijo in se lahko izognejo omejitvam, ki jih postavlja programerji.
Težava pri ustavljanju Alana Turinga
Ta problem, imenovan "problem zaustavitve", ponuja dve možnosti za ukaz, dan računalniku: ali bo pride do zaključka in se bodisi odzove nanj tako, da se ustavi, ali pa bo nadaljeval v zanki in poskušal najti rešitev – dokler najdi jo. Zaradi tega je nemogoče vedeti, ali se bo umetna inteligenca ustavila, ali bo našla in shranila vse možne zaključke v svoj spomin.
Težava pri tem je, da čez nekaj časa ni mogoče izmeriti, katero rešitev ali alternativo bo stroj uporabil za dano težavo. Tako bo njegovo vedenje nepredvidljivo in nesmiselno bo ustvarjati zadrževalni algoritem.
Razhajanja med mnenji znanstvenikov
Nekateri znanstveniki trdijo, da mora biti ves napredek v tehnologiji zasnovan tako, da spodbuja skupno dobro na varen in nadzorovan način. Na ta način se superstroj, ki je sposoben shranjevati vse in vse vrste inteligence, z neučinkovitimi zadrževalnimi močmi in še vedno neizmerno zmogljivostjo uničenja, zdi nekaj nevarnega.
S tem v mislih raziskovalci računalništva trdijo, da imajo lahko superinteligentni stroji škodo, ki odtehta koristi, zato se je treba njihovi konstrukciji izogibati. Mnogi programerji se nenehno ukvarjajo z dejstvom, da so se njihovi stroji naučili delati stvari, ki jih nikoli niso mogli. naučili ali ustvarili ukaze, da se jih naučijo - in to, odvisno od tega, kaj se naučijo, lahko simbolizira a tveganje.
etična vprašanja
Omejitev superinteligenčnih zmogljivosti je lahko izvedljiva alternativa. Če želite to narediti, ga je mogoče odrezati od delov interneta ali določenih omrežij. To bi bili primeri zadrževalnih mehanizmov. Vendar še ni znano, ali so te alternative izvedljive – ali pa bi stroj imel dostop do teh vsebin na način, ki ga je treba še razkriti.
Če bo torej človeštvo še naprej napredovalo z umetno inteligenco, je treba biti zelo previden pri obsegu, v katerem mora biti avtonomna.
