Superinteligentné systémy sa už vytvárajú a šíria po celom svete kvôli technologickým pretekom. Z tohto dôvodu vyvstávajú niektoré otázky: je to možné ovládať umelú inteligenciu ako ďaleko? Ako sme pripravení bojovať a AI že to funguje nad ľudské kapacity? Aké etické je vytvoriť program, ktorého dôsledky a dopady sa ešte nedajú merať? Pozrite si teraz viac informácií o týchto otázkach, ktoré položili vedci.
Čítaj viac: 7 aplikácií umelej inteligencie: niektoré už nahrádzajú ľudskú prácu
pozrieť viac
Upozornenie: TÁTO jedovatá rastlina pristála mladého muža v nemocnici
Google vyvíja nástroj AI na pomoc novinárom v…
Umelá inteligencia so superinteligenciou
Znie to ako zápletka zo sci-fi filmu, ale pravdou je, že umelá inteligencia skutočne dokáže vytvoriť autonómiu, aby sa naučila príkazy, ktoré sa neskôr môžu obrátiť proti ľuďom. Nie je napríklad zaručené, že sa budú riadiť pravidlami ako „nespôsobovať škodu ľudstvu“, keďže že budú naprogramovaní tak, aby mali autonómiu a mohli obísť limity stanovené tým programátorov.
Problém zastavenia Alan Turing
Tento problém, nazývaný „problém zastavenia“, poskytuje dve alternatívy príkazu zadaného počítaču: buď bude dospieť k záveru a buď naň reagovať zastavením, alebo bude pokračovať v slučke v snahe nájsť riešenie – kým Nájdi ju. Z tohto dôvodu nie je možné vedieť, či sa umelá inteligencia zastaví, alebo či si nájde a uloží do pamäte všetky možné závery.
Problém je v tom, že po chvíli nie je možné zmerať, aké riešenie alebo alternatívu stroj na daný problém zvolí. Týmto spôsobom bude jeho správanie nepredvídateľné a bude zbytočné vytvárať zadržiavací algoritmus.
Rozdiely medzi názormi vedcov
Niektorí vedci tvrdia, že všetky pokroky v technológii musia byť navrhnuté tak, aby podporovali spoločné dobro bezpečným a kontrolovaným spôsobom. Týmto spôsobom sa superstroj schopný uchovať všetky typy inteligencie, s neefektívnymi schopnosťami zadržiavania a stále nemeranou schopnosťou ničenia, javí ako niečo nebezpečné.
S ohľadom na to počítačoví výskumníci tvrdia, že superinteligentné stroje môžu mať škody, ktoré prevažujú nad výhodami, a ich konštrukcii by sa malo vyhnúť. Mnoho programátorov neustále rieši, že ich stroje sa naučili robiť veci, ktoré nikdy nedokázali. učil alebo vytváral príkazy, aby sa učili - a to v závislosti od toho, čo sa učia, môže symbolizovať a riziko.
etické problémy
Obmedzenie superinteligenčných schopností môže byť životaschopnou alternatívou. Na tento účel je možné ho odrezať od častí internetu alebo od určitých sietí. Toto by boli príklady zadržiavacích mechanizmov. Zatiaľ však nie je známe, či sú tieto alternatívy životaschopné – alebo či by stroj mal prístup k tomuto obsahu spôsobom, ktorý ešte nebol odhalený.
Ak teda ľudstvo naďalej napreduje s umelou inteligenciou, je potrebné byť veľmi opatrný s tým, do akej miery musí byť autonómna.