Tõenäoliselt kasutate – või vähemalt olete sellest kuulnud – ChatGPT-d. Tehisintellekti tööriistal on viimastel kuudel olnud "buum" ja see on olnud "käsi roolil", et vastata küsimustele või isegi täita keerukamaid töid.
Süsteem peidab aga tumedat saladust – ja selle loojad teavad seda. Nad mitte ainult ei tea, vaid võtavad selle eest ka vastutuse.
näe rohkem
Google arendab AI tööriista, mis aitab ajakirjanikel…
Avamata originaal 2007 iPhone müüb peaaegu $ 200 000; tea...
Vastavalt OpenAI, tööriista loonud ettevõte, ChatGPT kannatab hallutsinatsioonide all. See tähendab, et see võib mõnikord anda valeandmeid.
Ettevõte andis olukorrast teada eelmisel kolmapäeval, 31. mail. Lisaks on nad välja kuulutanud ka uuema ja võimsama meetodi AI treenimiseks.
Miks on oluline see ChatGPT väärkäitumine parandada?
Põhiline selgitus on see, et inimesed kasutavad seda tööriista oma igapäevaelus palju. Seetõttu on hädavajalik, et ChatGPT edastaks usaldusväärset teavet neile, kes seda kasutavad.
Näiteks kui kasutate
AIkoolitöö teksti täiustamiseks või konkreetsete retseptide otsimiseks on oluline, et seal olev teave oleks õige.Veelgi enam, vestlusrobotite kasutajate arvu suurenemisega saab valeteavet hõlpsalt levitada, nagu see oleks tõde.
Ja see võib tekitada tohutut peavalu järgmisel aastal, kui algavad USA valimised – ja see võib ka siia Brasiiliasse üle kanduda!
„Isegi tipptasemel mudelitel on kalduvus toota valesid – neil on kalduvus ebakindluse hetkedel fakte välja mõelda. Need hallutsinatsioonid on eriti problemaatilised valdkondades, mis nõuavad mitmeastmelist arutluskäiku, a kuna ühest loogikaveast piisab palju suurema lahenduse rööpast kõrvale jätmiseks,“ ütles OpenAI suhelnud.
Mida teha, et parandada?
OpenAI teatas, et kasutab uut strateegiat "hallutsinatsioonide" vastu võitlemiseks ChatGPT: treenige tehisintellekti mudeleid, et end iga õige sammu eest premeerida. Selle asemel, et teda lihtsalt täieliku vastusega lõpuks premeerida.
"Mudelite loogikavigade või hallutsinatsioonide tuvastamine ja leevendamine on kriitiline samm üldise joondatud tehisintellekti loomise suunas. Selle uurimistöö ajendiks on tegeleda hallutsinatsioonidega, et muuta mudelid võimekamaks lahendada keerulisi arutlusülesandeid,” selgitas matemaatikateadlane Karl Cobbe ettevõte.
Lõpetanud Goiase föderaalse ülikooli sotsiaalse kommunikatsiooni erialal. Sulle kirglik digitaalne meedia, popkultuur, tehnoloogia, poliitika ja psühhoanalüüs.
