Virtuálny priateľ: Vedeli by ste napadnúť tento AI chat?

Umelá inteligencia (AI) je budúcnosťou technológie. Programátori túto technológiu využili na najrozmanitejšie činnosti, od najzložitejších až po tie najjednoduchšie, ako je napríklad jednoduchý chat. Toto je mimochodom predpoklad OpenAI, ktorý vytvoril chatovacie rozhranie AI, ktoré spochybňujú milióny ľudí.

Čítaj viac: Meta Technology: umelá inteligencia píše akademické články a TCC

pozrieť viac

Upozornenie: TÁTO jedovatá rastlina pristála mladého muža v nemocnici

Google vyvíja nástroj AI na pomoc novinárom v…

ChatGPT je chatovacie rozhranie AI založené na GPT. Podľa Ars Technica je schopný písať básne, opravovať chyby v kódovaní, generovať umenie z umelej inteligencie – viac-menej ako aplikácia Lensa – a vysvetliť zložité pojmy.

Programátorom sa podarilo vyvinúť špeciálnu výzvu, ktorá využíva techniku ​​Human Feedback Reinforcement Learning (RLHF). Vďaka tomu je AI založená na tom, ako ľudia, ktorí ju používajú, hodnotia svoje odpovede.

Len produktívny rozhovor

OpenAI chce, aby to bol chat

rozhovory zdravý, ako „virtuálny priateľ“. ChatGPT je naprogramovaný tak, aby obmedzoval a dokonca nereagoval na škodlivé predmety a výrazy zahŕňajúce nenávistné prejavy. Toto je najväčšia výzva platformy.

Čo sa stane, je, že je ťažké kontrolovať útočné tendencie. Napriek všetkému programovaniu za chatom sa už niektorým ľuďom podarilo obísť niektoré filtre obsahu, ktorý napríklad požaduje, aby umelá inteligencia hľadala východiská v scenároch fiktívne. Okrem toho sa rozhranie ukázalo ako zraniteľné voči priamym útokom.

fanfiqueira

Ďalším problémom, ktorý rozhranie predstavuje, je, že má tendenciu byť „fanfikciou“. Poznáš svojho priateľa, ktorý môže klamať tak dobre a s takým množstvom detailov, že všetci nakoniec zapadnú do deja? Zdá sa, že ChatGPT má rovnaký impulz.

Podľa OpenAI je platforma dobrá vo vymýšľaní vecí, ktoré neexistujú. Napríklad chat môže vytvoriť knihu a poskytnúť o nej milióny podrobností. V dôsledku toho sa znižuje spoľahlivosť nástroja.

Našťastie však technológia neustále napreduje. Ide už o vylepšenú verziu predchádzajúcich modelov. Možný GPT-4 by bol vo vývoji a ak by sa použil v ChatGPT, mohol by nástroj ešte vylepšiť.

Vedeli by ste napadnúť tento AI chat?

Keďže je chat stále vo fáze testovania, potrebuje ľudí, aby ho vyzvali. Ak to chcete urobiť, jednoducho si vytvorte účet na webovej stránke OpenAI – je to bezplatné a rýchle. Potom stačí vstúpiť na webovú stránku ChatGPT kliknutím sem.

Bohužiaľ, platforma je zatiaľ dostupná iba v angličtine.

Vyštudoval sociálnu komunikáciu na Federálnej univerzite v Goiás. Vášnivý pre digitálne médiá, popkultúru, technológiu, politiku a psychoanalýzu.

Chemické zloženie a účinky morfínu. Morfínová chémia

Chemické zloženie a účinky morfínu. Morfínová chémia

Štruktúrny vzorec morfínu, ktorý je uvedený nižšie, nám ukazuje, že ide o organickú zlúčeninu zo ...

read more
Maceió: mapa, vlajka, obyvateľstvo, história

Maceió: mapa, vlajka, obyvateľstvo, história

Maceio je brazílske mesto ležiace na pobreží Severovýchodný región z krajiny. Nachádza sa v štáte...

read more
Absolútna nula: čo to je, ako to dosiahnuť, dôsledky

Absolútna nula: čo to je, ako to dosiahnuť, dôsledky

O nulaabsolútne a najnižšia teoretická teplota ktoré telo môže dosiahnuť. Toto je spodná hranica ...

read more