Tikriausiai naudojate „ChatGPT“ arba bent jau girdėjote apie tai. Dirbtinio intelekto įrankis pastaraisiais mėnesiais buvo „bumas“ ir buvo „ranka ant vairo“ atsakant į klausimus ar net atliekant sudėtingesnius darbus.
Tačiau sistema slepia tamsią paslaptį – ir jos kūrėjai tai žino. Jie ne tik žino, bet ir prisiima atsakomybę už tai.
Žiūrėti daugiau
„Google“ kuria AI įrankį, padedantį žurnalistams…
Neatidarytas originalus 2007 m. iPhone parduodamas už beveik 200 000 USD; žinoti...
Pagal OpenAI, įmonė, sukūrusi įrankį, ChatGPT kenčia nuo „haliucinacijų“. Tai yra, kartais jis gali pateikti klaidingą informaciją.
Apie situaciją bendrovė pranešė praėjusį trečiadienį, gegužės 31 d. Be to, jie taip pat paskelbė apie naujesnį ir galingesnį AI mokymo metodą.
Kodėl svarbu ištaisyti šį netinkamą ChatGPT elgesį?
Pagrindinis paaiškinimas yra tas, kad žmonės dažnai naudoja šį įrankį savo kasdieniame gyvenime. Todėl labai svarbu, kad „ChatGPT“ perduotų patikimą informaciją ja besinaudojantiems asmenims.
Pavyzdžiui, jei naudojate
AInorint patobulinti mokyklinio darbo tekstą ar ieškoti konkrečių receptų, labai svarbu, kad ten esanti informacija būtų teisinga.Be to, didėjant pokalbių robotų naudotojų skaičiui, melaginga informacija gali būti lengvai paskleista taip, lyg tai būtų tiesa.
Ir tai gali sukelti didžiulį galvos skausmą kitais metais, kai prasidės rinkimai Jungtinėse Valstijose – ir tai gali išsilieti ir čia, Brazilijoje!
„Netgi moderniausi modeliai turi tendenciją kurti melą – netikrumo akimirkomis jie linkę sugalvoti faktus. Šios haliucinacijos yra ypač problemiškos srityse, kuriose reikalingas daugiapakopis samprotavimas, a nes užtenka vienos logikos klaidos, kad būtų išmuštas daug didesnis sprendimas“, – sakė OpenAI bendravo.
Ką daryti norint pataisyti?
OpenAI pranešė, kad ji naudos naują strategiją kovai su „haliucinacijomis“. ChatGPT: mokykite dirbtinio intelekto modelius, kad jie apdovanotų save už kiekvieną teisingą žingsnį. Užuot tiesiog apdovanoję ją užbaigtu atsakymu.
„Modelio loginių klaidų ar haliucinacijų aptikimas ir sumažinimas yra svarbus žingsnis kuriant bendrą suderintą AI. Šio tyrimo motyvacija yra kovoti su haliucinacijomis, kad modeliai būtų pajėgesni išspręsti sudėtingas samprotavimo problemas“, – aiškino matematikos tyrinėtojas Karlas Cobbe'as bendrovė.
Baigė Socialinės komunikacijos specialybę federaliniame Gojaus universitete. Domitės skaitmenine žiniasklaida, popkultūra, technologijomis, politika ir psichoanalize.
