Pravděpodobně používáte – nebo jste o něm alespoň slyšeli – ChatGPT. Nástroj umělé inteligence zažívá v posledních měsících „boom“ a byl „rukou na volantu“, aby odpovídal na otázky nebo dokonce vykonával složitější úkoly.
Systém však skrývá temné tajemství – a jeho tvůrci to vědí. Nejenže to vědí, ale nesou za to odpovědnost.
vidět víc
Google vyvíjí nástroj AI, který má novinářům pomoci v…
Neotevřený původní iPhone z roku 2007 se prodává za téměř 200 000 $; vědět...
Podle OpenAI, společnost, která tento nástroj vytvořila, ChatGPT trpí „halucinacemi“. To znamená, že občas může poskytnout nepravdivé informace.
Situaci oznámila společnost minulou středu 31. května. Kromě toho také oznámili novější a výkonnější metodu pro výcvik AI.
Proč je důležité opravit toto špatné chování ChatGPT?
Základní vysvětlení je, že lidé tento nástroj hojně využívají ve svém každodenním životě. Proto je nezbytné, aby ChatGPT předával spolehlivé informace těm, kteří je používají.
Pokud například používáte AIpro vylepšení školního pracovního textu nebo pro hledání konkrétních receptů je nezbytné, aby tam byly informace správné.
S rostoucím počtem uživatelů chatbotů se navíc dají snadno šířit nepravdivé informace, jako by to byla pravda.
A to by mohlo příští rok, kdy začnou volby ve Spojených státech, způsobit obrovskou bolest hlavy – a mohlo by se to přenést i sem do Brazílie!
„Dokonce i nejmodernější modely mají tendenci produkovat nepravdy – ve chvílích nejistoty vykazují tendenci vymýšlet si fakta. Tyto halucinace jsou zvláště problematické v oblastech, které vyžadují vícestupňové uvažování, např protože jediná logická chyba stačí k vykolejení mnohem většího řešení,“ řekl OpenAI v sděleno.
Co udělat pro opravu?
OpenAI oznámilo, že použije novou strategii pro boj s „halucinacemi“. ChatGPT: trénujte modely umělé inteligence, aby se odměňovaly za každý správný krok. Místo toho, aby ji na konci jen odměnil kompletní odpovědí.
„Detekce a zmírnění logických chyb nebo halucinací modelu je kritickým krokem k vytvoření celkově sladěné AI. Motivací tohoto výzkumu je zabývat se halucinacemi, aby byly modelky schopnější řešit složité problémy uvažování,“ vysvětlil Karl Cobbe, matematický výzkumník ve společnosti společnost.
Vystudoval sociální komunikaci na Federální univerzitě v Goiás. Vášnivý pro digitální média, pop kulturu, technologie, politiku a psychoanalýzu.