Superinteligentni sustavi već se stvaraju i šire diljem svijeta zbog tehnološke utrke. Iz tog razloga postavljaju se neka pitanja: je li moguće kontrolirati umjetnu inteligenciju koliko daleko? Koliko smo spremni za borbu a AI koji radi iznad ljudskih mogućnosti? Koliko je etično kreirati program čije se posljedice i učinci još ne mogu izmjeriti? Sada pogledajte više informacija o ovim pitanjima koja postavljaju znanstvenici.
Čitaj više: 7 primjena umjetne inteligencije: neke već zamjenjuju ljudski rad
vidi više
Uzbuna: OVA otrovnica dovela mladića u bolnicu
Google razvija AI alat za pomoć novinarima u...
Umjetna inteligencija sa superinteligencijom
Zvuči kao zaplet znanstvenofantastičnog filma, ali istina je da umjetna inteligencija doista može stvoriti autonomiju za učenje naredbi koje se kasnije mogu okrenuti protiv ljudi. Nije zajamčeno, na primjer, da će slijediti pravila poput "ne nanosi štetu čovječanstvu", jer da će biti programirani da imaju autonomiju i da mogu zaobići ograničenja koja nameće programeri.
Problem zaustavljanja Alana Turinga
Nazvan "problem zaustavljanja", ovaj problem daje dvije alternative za naredbu danu računalu: ili hoće doći do zaključka i ili odgovoriti na njega zaustavljanjem ili će nastaviti u petlji pokušavajući pronaći rješenje – sve dok Nađi ju. Zbog toga je nemoguće znati hoće li umjetna inteligencija stati ili će pronaći i pohraniti sve moguće zaključke u svoju memoriju.
Problem s ovim je što nije moguće izmjeriti, nakon nekog vremena, koje će rješenje ili alternativu stroj poduzeti za određeni problem. Na taj će način njegovo ponašanje biti nepredvidivo i bit će besmisleno stvarati algoritam zadržavanja.
Razlike u mišljenjima znanstvenika
Neki znanstvenici tvrde da sav napredak u tehnologiji mora biti osmišljen tako da promiče opće dobro na siguran i kontroliran način. Na taj način, superstroj sposoban pohraniti sve vrste inteligencije, s neučinkovitim moćima zadržavanja i još uvijek neizmjerenim kapacitetom za uništenje, čini se kao nešto opasno.
Imajući to na umu, istraživači računarstva tvrde da bi superinteligentni strojevi mogli imati štete koje su veće od koristi, te bi njihovu konstrukciju trebalo izbjegavati. Mnogi programeri neprestano se suočavaju s činjenicom da su njihovi strojevi naučili raditi stvari koje oni nikada nisu mogli. učio ili stvorio naredbe za njih da uče - a ovo, ovisno o tome što uče, može simbolizirati a rizik.
etički problemi
Ograničavanje sposobnosti superinteligencije može biti održiva alternativa. Da biste to učinili, moguće ga je odrezati od dijelova interneta ili od određenih mreža. To bi bili primjeri mehanizama zadržavanja. Međutim, još nije poznato jesu li te alternative održive – ili bi stroj imao pristup tim sadržajima na način koji tek treba biti otkriven.
Stoga, ako čovječanstvo nastavi napredovati s umjetnom inteligencijom, potrebno je biti vrlo oprezan s mjerom u kojoj ona mora biti autonomna.
