Virtuálny priateľ: Vedeli by ste napadnúť tento AI chat?

Umelá inteligencia (AI) je budúcnosťou technológie. Programátori túto technológiu využili na najrozmanitejšie činnosti, od najzložitejších až po tie najjednoduchšie, ako je napríklad jednoduchý chat. Toto je mimochodom predpoklad OpenAI, ktorý vytvoril chatovacie rozhranie AI, ktoré spochybňujú milióny ľudí.

Čítaj viac: Meta Technology: umelá inteligencia píše akademické články a TCC

pozrieť viac

Upozornenie: TÁTO jedovatá rastlina pristála mladého muža v nemocnici

Google vyvíja nástroj AI na pomoc novinárom v…

ChatGPT je chatovacie rozhranie AI založené na GPT. Podľa Ars Technica je schopný písať básne, opravovať chyby v kódovaní, generovať umenie z umelej inteligencie – viac-menej ako aplikácia Lensa – a vysvetliť zložité pojmy.

Programátorom sa podarilo vyvinúť špeciálnu výzvu, ktorá využíva techniku ​​Human Feedback Reinforcement Learning (RLHF). Vďaka tomu je AI založená na tom, ako ľudia, ktorí ju používajú, hodnotia svoje odpovede.

Len produktívny rozhovor

OpenAI chce, aby to bol chat

rozhovory zdravý, ako „virtuálny priateľ“. ChatGPT je naprogramovaný tak, aby obmedzoval a dokonca nereagoval na škodlivé predmety a výrazy zahŕňajúce nenávistné prejavy. Toto je najväčšia výzva platformy.

Čo sa stane, je, že je ťažké kontrolovať útočné tendencie. Napriek všetkému programovaniu za chatom sa už niektorým ľuďom podarilo obísť niektoré filtre obsahu, ktorý napríklad požaduje, aby umelá inteligencia hľadala východiská v scenároch fiktívne. Okrem toho sa rozhranie ukázalo ako zraniteľné voči priamym útokom.

fanfiqueira

Ďalším problémom, ktorý rozhranie predstavuje, je, že má tendenciu byť „fanfikciou“. Poznáš svojho priateľa, ktorý môže klamať tak dobre a s takým množstvom detailov, že všetci nakoniec zapadnú do deja? Zdá sa, že ChatGPT má rovnaký impulz.

Podľa OpenAI je platforma dobrá vo vymýšľaní vecí, ktoré neexistujú. Napríklad chat môže vytvoriť knihu a poskytnúť o nej milióny podrobností. V dôsledku toho sa znižuje spoľahlivosť nástroja.

Našťastie však technológia neustále napreduje. Ide už o vylepšenú verziu predchádzajúcich modelov. Možný GPT-4 by bol vo vývoji a ak by sa použil v ChatGPT, mohol by nástroj ešte vylepšiť.

Vedeli by ste napadnúť tento AI chat?

Keďže je chat stále vo fáze testovania, potrebuje ľudí, aby ho vyzvali. Ak to chcete urobiť, jednoducho si vytvorte účet na webovej stránke OpenAI – je to bezplatné a rýchle. Potom stačí vstúpiť na webovú stránku ChatGPT kliknutím sem.

Bohužiaľ, platforma je zatiaľ dostupná iba v angličtine.

Vyštudoval sociálnu komunikáciu na Federálnej univerzite v Goiás. Vášnivý pre digitálne médiá, popkultúru, technológiu, politiku a psychoanalýzu.

Smútok: Pochopte zakázané praktiky v hrách LoL, CS: GO a iných

Koľkokrát ste už počuli slovo smútok? Asi párkrát. Ale Griefing je zakázaná prax v LoL, CS: GO a ...

read more

Pochopte, ako môže Coca-Cola urobiť kura chutnejšie

Existuje niekoľko spôsobov, ako ochutiť kura, ale jednou z najlepších možností je pridať do jedla...

read more

5 situácií, v ktorých vám soundtrack pomôže byť produktívnejší

Sú takí, ktorí hovoria, že bez hudby sa žiť nedá a verím, že väčšina z nás s tým súhlasí. Veď ryt...

read more
instagram viewer