Ar turime pagrindo bijoti? Pažangus AI gali sunaikinti žmoniją

Grupė mokslininkų iš Oksfordo universiteto Anglijoje atkreipė dėmesį į labai tamsios ateities galimybę žmogiškumas. Kaltininkas yra pažangus dirbtinis intelektas (AI). Pareiškime, pateiktame per viešą svarstymą Mokslo ir technologijų komitete m JK, šie tyrėjai teigė manantys, kad mūsų ateičiai gali kilti grėsmė, o technologija gali išnaikinti.

Ar ji mus išnaikins?

Šiame susitikime daugiausia dėmesio skirta diskusijai apie dirbtinio intelekto reglamentavimą ir naudojimą Jungtinėje Karalystėje. Grupė mano, kad būtina reguliuoti AI, kaip matome su branduoliniais ginklais, atsižvelgiant į didžiulį naikinimo potencialą, kurį šios technologijos jau turi šiandien ir bus tęsiamos ateities.

Tai gali būti hiperbolė, bet mokslininkai teigė, kad tikrai pažengusiam dirbtiniam intelektui mes būtume tokie, kokie mums yra dodo paukštis, kuris dabar yra išnykęs, bent jau grėsmės požiūriu. Taip yra todėl, kad mašinų talpa gali tapti daug didesnė nei mūsų.

Mes nesame įpratę prie idėjų, kad dirbtinis intelektas maištauja ar tiesiog paimamas sąmoningumą ir savo programavimo kontrolę, tokiu būdu pašalinant ribojantį veiksnį, kad vieną kartą egzistavo. Popkultūroje gausu tokių pavyzdžių žaidimuose, filmuose, serialuose ir knygose.

Vienas iš tyrėjų, doktorantas Michaelas Cohenas, naudojo palyginimą, kad parodytų, kaip dirbtinis intelektas gali lengvai sunaikinti žmoniją, veikdamas savarankiškai:

„Jei dresuosite šunį su skanėstais, jis išmoks pasirinkti veiksmus, kurių dėka jis gaus skanėstus, bet jei šuo ras spintelę, jis gali juos gauti nedarydamas to, ko norėjome.

Tai būtų tarsi intelektas, leidžiantis save kontroliuoti stebint kūrėją, bet ir pradėti veikti išorėje pagal savo interesus, kad technologija anksčiau ar vėliau galėtų panaudoti visus turimus išteklius ir sukauptas žinias, kad pavergtų žmogiškumas.

Filmų, serialų ir visko, kas susiję su kinu, mėgėjas. Aktyvus smalsus tinkluose, visada prisijungęs prie informacijos apie internetą.