Pēdējo nedēļu laikā internetā ir izplatījusies informācija, ka OpenAI administratīvā padome, kas veido ChatGPT, būtu saņēmis brīdinājumus par cilvēcei potenciāli bīstamu AI.
Informācija, kas nāk no ziņu aģentūras Reuters, arī parādīja, ka jaunais superinteliģentais algoritms varētu atrisināt vienkāršas matemātiskas problēmas pavisam savādāk nekā līdz šim redzētais.
redzēt vairāk
40 gadus apdraudēts putns nesen tika atrasts Brazīlijā
Vai decembrī BPC pabalstu saņēmēji saņems 13. algu?
Tā vietā, lai izmantotu parasto mašīnmācīšanos, piemēram, ChatGPT un Google Bard apmācības metodi, jaunajam AI būtu sarežģītāka arhitektūra, kas varētu padarīt to par “super AI”.
Q* vai Q-Star, tiem, kas jums tuviem
Saskaņā ar Reuters iegūto informāciju, AI, kas satrauc ekspertus, ir Q* jeb Q-Star (tā nosaukuma izrunā).
Kā minēts iepriekš, šis AI spēj atrisināt vienkāršas matemātiskas problēmas. Tomēr pagaidām nekas jauns nav, jo to spēj paveikt arī ChatGPT un citi AI.
Lieta ir tāda, ka, lai sniegtu atbildes uz matemātiskām problēmām, citi AI modeļi izmanto vienkāršas un vienkāršas metodoloģijas. tiešā veidā, precīzā veidā izmantojot matemātiskās varbūtības, vairāk vai mazāk kā to dara kalkulatori vispārpieņemtais.
No otras puses, Q-Star problēmu risināšanai izmantotu metodi, ko mēs varam saukt par "izpratni". Citiem vārdiem sakot, šis jaunais AI “domātu”, lai atrisinātu problēmas, tāpat kā mēs, cilvēki.
(Attēls: atklāšana)
Šis lēciens no neapstrādātas apstrādes izmantošanas uz izpratnes veidu paaugstina mākslīgā intelekta latiņu uz jēdzienu, ko sauc par “mākslīgo vispārējo intelektu” jeb IAG.
Pēc dažu ekspertu domām, kuri jau ir pētījuši IAG, tas spētu radīt mašīnas, kas spēj "domāt par sevi", pārspējot cilvēkus vairākos sarežģītākos uzdevumos.
Šajā ziņā IAG var padarīt dzīvi noziedzniekiem, kuri izmanto tādas metodes kā deepfake un balss klonēšana, piemēram, lai veiktu krāpniecību un radītu šķelšanos.
Visu šo iemeslu dēļ Q* parādīšanās un iespējama tai līdzīgu AI parādīšanās prasa lielu iestāžu modrību. Galu galā tehnoloģiju ļaunprātīga izmantošana ar šīm īpašībām faktiski var kaitēt cilvēcei.
Beidzis Vēstures un cilvēkresursu tehnoloģijas. Aizraujoties ar rakstīšanu, viņš šodien īsteno sapni profesionāli strādāt par tīmekļa satura rakstītāju, rakstot rakstus vairākās dažādās nišās un formātos.
