Vjerojatno koristite – ili ste barem čuli za – ChatGPT. Alat za umjetnu inteligenciju doživio je "procvat" posljednjih mjeseci i bio je "ruka na volanu" za odgovaranje na pitanja ili čak obavljanje složenijih poslova.
Međutim, sustav skriva mračnu tajnu – i njegovi kreatori to znaju. Ne samo da znaju, nego i snose odgovornost za to.
vidi više
Google razvija AI alat za pomoć novinarima u...
Neotvoreni originalni iPhone iz 2007. prodaje se za gotovo 200.000 dolara; znati...
Prema OpenAI, tvrtka koja je stvorila alat, ChatGPT pati od "halucinacija". Odnosno, ponekad može dati lažne informacije.
Situaciju je tvrtka objavila prošle srijede, 31. svibnja. Osim toga, također su najavili noviju i snažniju metodu za treniranje umjetne inteligencije.
Zašto je važno popraviti ovo loše ponašanje ChatGPT-a?
Osnovno objašnjenje je da ljudi često koriste alat u svakodnevnom životu. Stoga je imperativ da ChatGPT proslijedi pouzdane informacije onima koji ga koriste.
Na primjer, ako koristite AIda biste poboljšali školski radni tekst ili tražili specifične recepte, bitno je da su informacije točne.
Štoviše, uz sve veći broj korisnika chatbota, lažne informacije mogu se lako širiti kao da su istinite.
I to bi moglo izazvati veliku glavobolju sljedeće godine, kada počnu izbori u Sjedinjenim Državama – a to bi se moglo preliti i ovdje u Brazilu!
“Čak i najsuvremeniji modeli imaju tendenciju proizvoditi neistine - pokazuju tendenciju izmišljanja činjenica u trenucima nesigurnosti. Ove halucinacije su posebno problematične u domenama koje zahtijevaju razmišljanje u više koraka, a budući da je jedna logička pogreška dovoljna da izbaci iz kolosijeka puno veće rješenje," rekao je OpenAI in komunicirao.
Što učiniti da se popravi?
OpenAI je izvijestio da će koristiti novu strategiju za borbu protiv "halucinacija" ChatGPT: trenirajte AI modele da se nagrade za svaki točan korak. Umjesto da je na kraju samo nagradite potpunim odgovorom.
“Otkrivanje i ublažavanje logičkih pogrešaka ili halucinacija modela kritičan je korak prema izgradnji sveukupno usklađene umjetne inteligencije. Motivacija iza ovog istraživanja je rješavanje halucinacija kako bi se modeli učinili sposobnijima rješavati složene probleme zaključivanja”, objasnio je Karl Cobbe, matematički istraživač na društvo.
Diplomirao društvene komunikacije na Federalnom sveučilištu Goiás. Strastveni ljubitelj digitalnih medija, pop kulture, tehnologije, politike i psihoanalize.
