Umetna inteligenca (AI) je ena najnaprednejših tehnologij, prisotnih v našem vsakdanjem življenju, ki se uporablja za pomoč ljudem pri različnih nalogah, poleg zaščite podatkov in informacij. Kljub vsem napredkom pa umetna inteligenca ni brez napak in ranljivosti, kar dokazuje poskus vdora v Microsoftov operacijski sistem s pomočjo chatbota ChatGPT.
Hekanje s samim orodjem
Poglej več
Opozorilo: TA strupena rastlina je pripeljala mladeniča v bolnišnico
Google razvija orodje AI za pomoč novinarjem pri...
Skupina uporabnikov interneta, ki pripada YouTube kanalu Enderman, je poskušala zaobiti Microsoftov operacijski sistem prek ChatGPT, ki se uporablja kot orodje za dialog in ima AI. Ideja je bila ustvariti veljavne ključe za Windows 95.
Rezultat poskusa vdora v operacijski sistem je bil zaskrbljujoč in je potrdil obstoj napak v AI, poleg tega pa je družbi izpostavil tveganja te tehnologije.
Kraja materiala in nezakonita trgovinska proizvodnja sta nekaj primerov tveganj, ki jih lahko predstavlja umetna inteligenca.
Pomen varnosti AI
Epizoda je povzročila velike posledice in zaskrbljenost, celo milijarderja Elona Muska je objavilo pismo zahteva prekinitev platforme za študij in izboljšave, skupaj s Stevom Wozniakom, inženirjem Apple.
ChatGPT ima omejitve glede odgovorov, ki jih zagotavlja, da bi se izognili deljenju zaupnih informacij. Ko so vprašanja sumljiva, sistem prikaže negativno sporočilo ali zapre pogovor.
Skupini internetnih uporabnikov pa je uspelo aktivirati 3,3 % ključev in imeli dostop do okolja, ki bi moralo biti omejeno.
Slabost AI
Poskus vdora v Microsoftov operacijski sistem prek ChatGPT je razkril krhkost umetne inteligence in tveganja, ki jih lahko prinese družbi.
Pomembno je poudariti potrebo po vlaganjih v varnost in izboljšanje tehnologije, da preprečimo ponoven pojav tovrstnih incidentov.
Poleg tega je ključnega pomena, da podjetja in vlade sodelujejo pri ustvarjanju varnostnih politik. robustna in učinkovita orodja za AI, ki zagotavljajo zaščito podatkov in zasebnosti uporabnikov.