Изкуственият интелект (AI) е една от най-модерните технологии, присъстващи в нашето ежедневие, използвана за подпомагане на хората при различни задачи, в допълнение към защитата на данни и информация. Въпреки това, дори с всички постижения, AI не е лишен от недостатъци и уязвимости, както се вижда от опита за хакване на операционната система на Microsoft с помощта на chatbot ChatGPT.
Хакване със самия инструмент
виж повече
Сигнал: ТОВА отровно растение вкара млад мъж в болница
Google разработва AI инструмент, за да помогне на журналистите в...
Група интернет потребители, принадлежащи към YouTube канала Enderman, се опитаха да заобиколят операционната система на Microsoft чрез ChatGPT, който се използва като инструмент за диалог и има AI. Идеята беше да се генерират валидни ключове за Windows 95.
Резултатът от опита за хакване на операционната система беше тревожен и потвърди наличието на пропуски в AI, в допълнение към излагането на рисковете на тази технология за обществото.
Кражбата на материали и незаконното търговско производство са някои от примерите за рискове, които ИИ може да представлява.
Значението на сигурността на AI
Епизодът предизвика голямо отражение и безпокойство, като дори накара милиардера Илон Мъск да публикува писмо настоявайки за прекъсване на платформата за проучване и подобрение, заедно със Стив Возняк, инженер на Ябълка.
ChatGPT има ограничения върху отговорите, които предоставя, за да избегне споделянето на поверителна информация. Когато въпросите са подозрителни, системата показва отрицателно съобщение или затваря разговора.
Въпреки това групата интернет потребители успя да активира 3,3% от ключовете и имаше достъп до среда, която трябваше да бъде ограничена.
слабост на AI
Опитът за хакване на операционната система на Microsoft чрез ChatGPT разкри крехкостта на AI и рисковете, които може да донесе на обществото.
Важно е да се подчертае необходимостта от инвестиции в сигурност и подобряване на технологиите, за да се предотврати повторното възникване на подобен тип инциденти.
Освен това е изключително важно компаниите и правителствата да работят заедно за създаване на политики за сигурност. стабилни и ефективни инструменти за AI, гарантиращи защитата на потребителската информация и поверителността.