Pastarosiomis savaitėmis internete apskriejo informacija, kad OpenAI administracinė taryba, sukūrusi ChatGPT, būtų sulaukę įspėjimų apie žmonijai potencialiai pavojingą AI.
Iš naujienų agentūros „Reuters“ gauta informacija taip pat parodė, kad naujasis itin protingas algoritmas sugebėtų visai kitaip nei buvo matyta iki tol paprastas matematines problemas išspręsti.
Žiūrėti daugiau
40 metų nykstantis paukštis neseniai buvo rastas Brazilijoje
Ar gruodžio mėnesį BPC pašalpos gavėjai gaus 13 atlyginimą?
Pavyzdžiui, užuot naudojęs įprastą mašininį mokymąsi, ChatGPT ir Google Bard mokymo metodą, naujasis AI turėtų sudėtingesnę architektūrą, galinčią paversti jį „super AI“.
Q*, arba Q-Star, tiems, kurie yra jūsų artimi
Remiantis „Reuters“ gauta informacija, AI, kuris kelia nerimą ekspertams, yra Q* arba Q-Star (pagal pavadinimą).
Kaip minėta aukščiau, šis AI gali išspręsti paprastas matematines problemas. Tačiau kol kas nieko naujo, nes ChatGPT ir kiti AI taip pat gali tai padaryti.
Esmė ta, kad norint pateikti atsakymus į matematines problemas, kituose AI modeliuose naudojamos paprastos ir nesudėtingos metodikos. tiesioginis, tiksliai naudojant matematines tikimybes, daugiau ar mažiau kaip tai daro skaičiuotuvai sutartinis.
Kita vertus, „Q-Star“ problemoms spręsti naudotų metodą, kurį galime pavadinti „supratimu“. Kitaip tariant, šis naujasis AI „mąstytų“, kaip išspręsti problemas, kaip ir mes, žmonės.
(Nuotrauka: atskleidimas)
Šis šuolis nuo neapdoroto apdorojimo iki supratimo formos pakelia AI kartelę iki koncepcijos, vadinamos „dirbtiniu bendruoju intelektu“ arba IAG.
Pasak kai kurių ekspertų, kurie jau studijavo IAG, jis galėtų sukurti mašinas, galinčias „mąstyti pats“, o tai pralenktų žmones atliekant daugybę sudėtingesnių užduočių.
Šia prasme IAG gali padaryti nusikaltėlių, kurie naudojasi tokiais būdais, kaip gilus padirbinys ir balso klonavimas, pavyzdžiui, sukčiavimui ir padalijimui kurti.
Dėl visų šių priežasčių Q* atsiradimas ir galimas į jį panašių AI atsiradimas reikalauja didelio valdžios budrumo. Galų gale, netinkamas šių savybių technologijų naudojimas iš tikrųjų gali pakenkti žmonijai.
Baigė istorijos ir žmogiškųjų išteklių technologijų studijas. Aistringas rašymas, šiandien jis gyvena svajone dirbti profesionaliai kaip žiniatinklio turinio rašytojas, rašydamas straipsnius keliomis nišomis ir formatais.