Virtuális barát: Meg tudnád támadni ezt az AI-csevegést?

A mesterséges intelligencia (AI) a technológia jövője. A programozók ezt a technológiát a legkülönfélébb tevékenységekhez használták, a legbonyolultabbtól a legegyszerűbbig, mint például az egyszerű chat. Ez egyébként az OpenAI előfeltétele, amely egy mesterséges intelligencia csevegési felületet hozott létre, amelyet emberek milliói támadnak meg.

Olvass tovább: Meta Technology: a mesterséges intelligencia tudományos cikkeket és TCC-ket ír

többet látni

Figyelmeztetés: EZ a mérgező növény egy fiatal férfit kórházba juttatott

A Google mesterséges intelligencia eszközt fejleszt, hogy segítse az újságírókat…

A ChatGPT egy GPT-alapú AI csevegőfelület. Az Ars Technica szerint képes verseket írni, kódolási hibákat javítani, mesterséges intelligenciából művészetet generálni – nagyjából úgy, mint az alkalmazás Lensa – és magyarázza el az összetett fogalmakat.

A programozóknak sikerült kifejleszteniük egy speciális promptot, amely a Human Feedback Reforcement Learning (RLHF) technikát használja. Ez alapján az AI azon alapul, hogy az azt használó emberek hogyan értékelik a válaszaikat.

Csak produktív beszélgetés

Az OpenAI azt akarja, hogy ez egy csevegés legyen beszélgetések egészséges, mint egy „virtuális barát”. A ChatGPT úgy van programozva, hogy korlátozza a gyűlöletbeszédet magában foglaló káros témákat és kifejezéseket, sőt ne reagáljon rájuk. Ez a platform legnagyobb kihívása.

Az történik, hogy nehéz kordában tartani a támadó hajlamokat. A chat mögötti programozás ellenére néhány embernek már sikerült megkerülnie néhány szűrőt például, hogy a mesterséges intelligencia keressen kijáratokat a forgatókönyvekben kitalált. Ezenkívül az interfész sebezhetőnek bizonyult a közvetlen támadásokkal szemben.

fanfiqueira

Egy másik probléma, amit a felület jelent, az, hogy hajlamos a „fanfiction”-re. Ismered azt a barátodat, aki képes rá hazudni olyan jól és olyan részletességgel, hogy végül mindenki beleesik a történetbe? Nos, úgy tűnik, a ChatGPT-nek ugyanez az impulzusa van.

Az OpenAI szerint a platform jó olyan dolgok kitalálására, amelyek nem léteznek. A csevegés például létrehozhat egy könyvet, és milliónyi részletet közölhet róla. Ennek eredményeként a szerszám megbízhatósága csökken.

De szerencsére a technológia folyamatosan fejlődik. Ez már a korábbi modellek továbbfejlesztett változata. Egy lehetséges GPT-4 fejlesztés alatt áll, és ha a ChatGPT-ben használnák, még tovább javíthatja az eszközt.

Meg tudnád támadni ezt az AI-csevegést?

Mivel még tesztelési fázisban van, a chatnek szüksége van az emberekre, akik megkérdőjelezik. Ehhez egyszerűen hozzon létre egy fiókot az OpenAI webhelyen – ez ingyenes és gyors. Ezt követően egyszerűen lépjen be a ChatGPT webhelyére ide kattintva.

Sajnos a platform egyelőre csak angol nyelven érhető el.

Szociális kommunikáció szakon szerzett diplomát a Goiás Szövetségi Egyetemen. Szenvedélyes a digitális média, a popkultúra, a technológia, a politika és a pszichoanalízis iránt.

„Ez egy rendetlenség”: Az igazság a távmunkáról szóló mítoszok mögött

A home office elfogadása nagy és pozitív újdonságnak bizonyult a számára cégek és az alkalmazotta...

read more

Négy jel, amelyet passzivitás jellemez

Minden jelnek megvan a maga sajátossága, egyesek előnyösek, mások pedig kárt okoznak, vannak olya...

read more

Ennél a 3 jelnél a szerelem lesz a levegőben idén június 9-én

A mai asztrológia szerint három jelek a magabiztos állatöv szerencsésebb a szerelemben. A Hold sz...

read more
instagram viewer