Käytät todennäköisesti – tai ainakin olet kuullut – ChatGPT: tä. Tekoälytyökalulla on ollut "buumi" viime kuukausina, ja se on ollut "käsi ratissa" vastaamassa kysymyksiin tai jopa suorittamassa monimutkaisempia töitä.
Järjestelmä kätkee kuitenkin synkän salaisuuden – ja sen luojat tietävät sen. He eivät vain tiedä, vaan he kantavat siitä vastuun.
Katso lisää
Google kehittää tekoälytyökalua auttamaan toimittajia…
Avaamaton alkuperäinen 2007 iPhone myy lähes 200 000 dollaria; tietää...
Mukaan OpenAI, työkalun luonut yritys, ChatGPT kärsii "hallusinaatioista". Eli se voi toisinaan antaa vääriä tietoja.
Yhtiö ilmoitti tilanteesta viime keskiviikkona 31. toukokuuta. Lisäksi he ovat myös julkistaneet uudemman ja tehokkaamman menetelmän tekoälyn harjoittamiseen.
Miksi on tärkeää korjata tämä ChatGPT-virhe?
Perusselitys on, että ihmiset käyttävät työkalua paljon jokapäiväisessä elämässään. Siksi on välttämätöntä, että ChatGPT välittää luotettavaa tietoa sitä käyttäville.
Esimerkiksi jos käytät AIkoulutyötekstin parantamiseksi tai tiettyjen reseptien etsimiseksi on olennaista, että siellä olevat tiedot ovat oikein.
Lisäksi chatbotin käyttäjien määrän kasvaessa väärää tietoa voidaan levittää helposti ikään kuin se olisi totuus.
Ja tämä voi aiheuttaa valtavaa päänsärkyä ensi vuonna, kun Yhdysvaltojen vaalit alkavat – ja tämä voi levitä myös tänne Brasiliaan!
"Jopa uusimmilla malleilla on taipumus tuottaa valheita - niillä on taipumus keksiä tosiasioita epävarmuuden hetkinä. Nämä hallusinaatiot ovat erityisen ongelmallisia aloilla, jotka vaativat monivaiheista päättelyä, a koska yksi logiikkavirhe riittää suistamaan paljon suuremman ratkaisun", sanoi OpenAI tiedotettu.
Mitä tehdä korjataksesi?
OpenAI raportoi, että se käyttää uutta strategiaa torjuakseen "hallusinaatioita". ChatGPT: kouluta tekoälymalleja palkitsemaan itsensä jokaisesta oikeasta askeleesta. Sen sijaan, että palkitsisit hänet lopussa täydellisellä vastauksella.
”Mallin loogisten virheiden tai hallusinaatioiden havaitseminen ja lieventäminen on kriittinen askel kohti yhtenäisen tekoälyn rakentamista. Tämän tutkimuksen motiivina on puuttua hallusinaatioihin, jotta mallit pystyisivät paremmin ratkaista monimutkaisia päättelyongelmia", selittää matematiikan tutkija Karl Cobbe yhtiö.
Valmistunut sosiaalisesta viestinnästä Goiásin liittovaltion yliopistossa. Intohimoinen digitaalinen media, popkulttuuri, teknologia, politiikka ja psykoanalyysi.