Virtuálny priateľ: Vedeli by ste napadnúť tento AI chat?

Umelá inteligencia (AI) je budúcnosťou technológie. Programátori túto technológiu využili na najrozmanitejšie činnosti, od najzložitejších až po tie najjednoduchšie, ako je napríklad jednoduchý chat. Toto je mimochodom predpoklad OpenAI, ktorý vytvoril chatovacie rozhranie AI, ktoré spochybňujú milióny ľudí.

Čítaj viac: Meta Technology: umelá inteligencia píše akademické články a TCC

pozrieť viac

Upozornenie: TÁTO jedovatá rastlina pristála mladého muža v nemocnici

Google vyvíja nástroj AI na pomoc novinárom v…

ChatGPT je chatovacie rozhranie AI založené na GPT. Podľa Ars Technica je schopný písať básne, opravovať chyby v kódovaní, generovať umenie z umelej inteligencie – viac-menej ako aplikácia Lensa – a vysvetliť zložité pojmy.

Programátorom sa podarilo vyvinúť špeciálnu výzvu, ktorá využíva techniku ​​Human Feedback Reinforcement Learning (RLHF). Vďaka tomu je AI založená na tom, ako ľudia, ktorí ju používajú, hodnotia svoje odpovede.

Len produktívny rozhovor

OpenAI chce, aby to bol chat

rozhovory zdravý, ako „virtuálny priateľ“. ChatGPT je naprogramovaný tak, aby obmedzoval a dokonca nereagoval na škodlivé predmety a výrazy zahŕňajúce nenávistné prejavy. Toto je najväčšia výzva platformy.

Čo sa stane, je, že je ťažké kontrolovať útočné tendencie. Napriek všetkému programovaniu za chatom sa už niektorým ľuďom podarilo obísť niektoré filtre obsahu, ktorý napríklad požaduje, aby umelá inteligencia hľadala východiská v scenároch fiktívne. Okrem toho sa rozhranie ukázalo ako zraniteľné voči priamym útokom.

fanfiqueira

Ďalším problémom, ktorý rozhranie predstavuje, je, že má tendenciu byť „fanfikciou“. Poznáš svojho priateľa, ktorý môže klamať tak dobre a s takým množstvom detailov, že všetci nakoniec zapadnú do deja? Zdá sa, že ChatGPT má rovnaký impulz.

Podľa OpenAI je platforma dobrá vo vymýšľaní vecí, ktoré neexistujú. Napríklad chat môže vytvoriť knihu a poskytnúť o nej milióny podrobností. V dôsledku toho sa znižuje spoľahlivosť nástroja.

Našťastie však technológia neustále napreduje. Ide už o vylepšenú verziu predchádzajúcich modelov. Možný GPT-4 by bol vo vývoji a ak by sa použil v ChatGPT, mohol by nástroj ešte vylepšiť.

Vedeli by ste napadnúť tento AI chat?

Keďže je chat stále vo fáze testovania, potrebuje ľudí, aby ho vyzvali. Ak to chcete urobiť, jednoducho si vytvorte účet na webovej stránke OpenAI – je to bezplatné a rýchle. Potom stačí vstúpiť na webovú stránku ChatGPT kliknutím sem.

Bohužiaľ, platforma je zatiaľ dostupná iba v angličtine.

Vyštudoval sociálnu komunikáciu na Federálnej univerzite v Goiás. Vášnivý pre digitálne médiá, popkultúru, technológiu, politiku a psychoanalýzu.

Koľko zarába sociálny pracovník?

O sociálny pracovník je odborník zodpovedný za poskytovať sociálne služby viesť jednotlivcov, rod...

read more

Najlepší priatelia zverokruhu: 4 znamenia, ktoré si rozumejú so všetkými ostatnými

Znaky spájajú konkrétne vlastnosti ľudí, ako je ich životný štýl alebo spôsob zvládania ťažkostí....

read more

Ako sa stať lepšími rodičmi pomocou niekoľkých malých každodenných návykov

Výchova detí bola vždy veľkou výzvou, najmä v čase skvelých technológií a toľkých informácií. Pre...

read more