Искусственный интеллект (ИИ) — одна из самых передовых технологий, присутствующих в нашей повседневной жизни, используемая для помощи людям в выполнении различных задач, помимо защиты данных и информации. Однако даже при всех достижениях ИИ не лишен недостатков и уязвимостей, о чем свидетельствует попытка взломать операционную систему Microsoft с помощью чат-бота. ЧатGPT.
Взлом с помощью самого инструмента
узнать больше
Внимание: ЭТО ядовитое растение привело молодого человека в больницу
Google разрабатывает инструмент искусственного интеллекта, чтобы помочь журналистам…
Группа интернет-пользователей, принадлежащая YouTube-каналу Enderman, пыталась обойти операционную систему Microsoft через ChatGPT, который используется в качестве средства диалога и имеет ИИ. Идея заключалась в том, чтобы сгенерировать действительные ключи для Windows 95.
Результат попытки взломать операционную систему вызвал тревогу и подтвердил наличие недостатков в ИИ, а также выявил риски этой технологии для общества.
Кража материалов и незаконное торговое производство — вот некоторые из примеров рисков, которые может представлять ИИ.
Важность безопасности ИИ
Эпизод вызвал большой резонанс и беспокойство, даже побудив миллиардера Илона Маска опубликовать письмо. требуя приостановки работы платформы для изучения и усовершенствования, вместе со Стивом Возняком, инженером Яблоко.
ChatGPT имеет ограничения на ответы, которые он предоставляет, чтобы избежать обмена конфиденциальной информацией. При подозрительных вопросах система выводит отрицательное сообщение или закрывает беседу.
Однако группе интернет-пользователей удалось активировать 3,3% ключей и получить доступ к среде, которая должна была быть ограничена.
Слабость ИИ
Попытка взломать операционную систему Microsoft через ChatGPT выявила хрупкость ИИ и риски, которые он может принести обществу.
Важно подчеркнуть необходимость инвестиций в безопасность и улучшение технологий, чтобы предотвратить повторение подобных инцидентов.
Кроме того, очень важно, чтобы компании и правительства работали вместе над созданием политик безопасности. надежные и эффективные инструменты для искусственного интеллекта, обеспечивающие защиту пользовательской информации и конфиденциальность.
