Umělá inteligence (AI) je jednou z nejpokročilejších technologií přítomných v našem každodenním životě, která kromě ochrany dat a informací pomáhá lidem při různých úkolech. I přes všechny pokroky však AI není bez nedostatků a zranitelností, jak dokazuje pokus o hacknutí operačního systému Microsoftu pomocí chatbota. ChatGPT.
Hackování se samotným nástrojem
vidět víc
Upozornění: TATO jedovatá rostlina přivedla mladého muže do nemocnice
Google vyvíjí nástroj AI, který má novinářům pomoci v…
Skupina uživatelů internetu, která patří do kanálu YouTube Enderman, se pokusila obejít operační systém Microsoftu prostřednictvím ChatGPT, který se používá jako dialogový nástroj a má AI. Cílem bylo vygenerovat platné klíče pro Windows 95.
Výsledek pokusu o hacknutí operačního systému byl znepokojivý a potvrdil existenci nedostatků v AI, navíc odhalil rizika této technologie pro společnost.
Krádeže materiálu a nezákonná obchodní výroba jsou některé z příkladů rizik, která může AI představovat.
Důležitost bezpečnosti AI
Epizoda vyvolala velké ohlasy a obavy, dokonce vedl miliardáře Elona Muska k zveřejnění dopisu požadující přerušení platformy pro studium a zlepšování spolu se Stevem Wozniakem, inženýrem z Jablko.
ChatGPT má omezení na odpovědi, které poskytuje, aby se zabránilo sdílení důvěrných informací. Pokud jsou otázky podezřelé, systém zobrazí negativní zprávu nebo uzavře konverzaci.
Skupině uživatelů internetu se však podařilo aktivovat 3,3 % klíčů a měla přístup do prostředí, které mělo být omezeno.
slabost AI
Pokus hacknout operační systém Microsoftu prostřednictvím ChatGPT odhalil křehkost AI a rizika, která může společnosti přinést.
Je důležité zdůraznit potřebu investic do bezpečnosti a zlepšení technologie, aby se předešlo opakování tohoto typu incidentu.
Kromě toho je důležité, aby společnosti a vlády spolupracovaly na vytváření bezpečnostních politik. robustní a účinné nástroje pro umělou inteligenci zajišťující ochranu uživatelských informací a soukromí.