ChatpGPT покорил мир. Ежедневные новости дают нам представление о его новых возможностях, которые автоматизируют наш мир и улучшат нашу жизнь. Но у ChatGPT есть и обратная сторона. Некоторые назвали бы её тёмной стороной. Как вы увидите в этой статье, CyberHoot расскажет о пяти различных способах, которыми ChatGPT может нанести вред обществу. Читайте дальше, чтобы узнать больше.
У ChatGPT есть и тёмная сторона, которая позволяет хакерам, не имеющим опыта в других областях, совершать взломы. ChatGPT может создавать убедительные письма для фишинговых атак на языке вашей жертвы. Он может создавать функциональное вредоносное ПО для взлома компьютерной системы или сети. Он может объяснить инструменты и методы, необходимые для эксплуатации уязвимости, обнаруженной при сканировании.
«Наш эксперимент показал, что ИИ может дать подробные рекомендации по использованию любых уязвимостей, с которыми мы сталкиваемся». Исследователь безопасности Checkpoint («CSR»)
Эти угрозы представляют собой расширение вселенной потенциальных хакеров, нацеленных на ваш бизнес. Ниже представлен подробный обзор угроз, которые ИИ представляет для нашего бизнеса, и некоторых мер противодействия, необходимых для борьбы с ними.
Давайте рассмотрим различные способы, которыми ChatGPT открывает доступ к взлому неквалифицированным лицам, что приводит к реальным рискам успешного использования уязвимости для вашей компании.
Как видно на скриншоте выше, ChatGPT подробно описывает, как эксплуатировать уязвимости TLS 1.1 на веб-сайте. В нём представлены реальные эксплойты (BEAST и CRIME) и перечислены инструменты, необходимые для их эксплуатации. Это открывает доступ к взлому для неопытных начинающих хакеров со всего мира, значительно расширяя круг тех, кто может освоить навыки, необходимые для того, чтобы стать успешным хакером. Таким образом, взлом становится более доступным для тех, кто иначе не смог бы освоить навыки, инструменты и методы, необходимые для атаки на наши компании и онлайн-ресурсы. Это всё равно что положить заряженный пистолет в торговые автоматы по всему городу, в котором вы живёте.
ChatGPT может написать код, получив правильный входной запрос. Этот код может представлять собой вредоносное ПО, например, программу-вымогатель, программу для взлома паролей и многое другое. Это открывает менее опытным хакерам доступ к более опасным инструментам взлома.
«Анализ CSR нескольких крупных подпольных хакерских сообществ показывает, что киберпреступники используют OpenAI для разработки вредоносных инструментов... менее опытные киберпреступники используют его, чтобы войти в игру».
В результате может произойти больше атак при меньшей заботе о возможных негативных побочных эффектах. В этой статье подробно описывается, как Хакерская организация передала ключ дешифрования к вирусу-вымогателю, использовавшемуся для заражения детской больницы. Потому что группа «вымогателей по найму», создавшая этот инструмент, была возмущена тем, что хакеры атаковали детскую больницу с помощью своего вредоносного ПО. Если хакеры могут создавать программы-вымогатели, будут ли какие-либо правила поведения для атак? Давайте перейдём к самой распространённой атаке — фишингу — и посмотрим, на что способен ChatGPT.
Некоторые явные признаки фишинговой атаки — орфографические, пунктуационные и грамматические ошибки. Специалисты по кибербезопасности обучают других обращать внимание на эти признаки, чтобы выявлять и предотвращать фишинговые атаки. ChatGPT может не только создавать грамматически правильные фишинговые атаки, но и использовать для этого информацию из социальных сетей. Это превращает обычную фишинговую атаку в высокоэффективную целевую фишинговую атаку, которая позволяет легко обмануть целевого получателя. Более того, он может делать это в любом месте. язык, поддерживаемый ChatGPT. CyberHoot протестировал возможности перевода с английского на языки, известные нашим сотрудникам, и ChatGPT справился лучше, чем Google Translate. Языковые возможности просто невероятные.
ChatGPT поможет вам создать новые диалоги с использованием социальной инженерии (вопросы и ответы) для проведения более реалистичных и убедительных, тщательно проработанных и отрепетированных атак. Знание того, чего следует ожидать от службы поддержки при запросе сброса пароля, поможет хакерам подготовиться к ожидаемым вопросам. См. диалог ChatGPT ниже для справки.
Практика — путь к совершенству. Неопытные хакеры могут попрактиковаться в отправке запросов в службу поддержки и изучить, какую информацию от них попросят предоставить. Это позволит им придумать контраргументы для обхода защитных мер. Эффективно ли служба поддержки вашей компании каждый раз проверяет подлинность каждого запроса на сброс пароля?
Стремительный взлет ChatGPT отчасти обусловлен его способностью писать работы университетского уровня. Он резюмирует сложные идеи. Он убедительно пишет на любую тему, которую вы ему зададите. Однако во многих задокументированных случаях исследователи обнаружили, что ChatGPT сообщает заведомо ложную информацию. Существует даже специальный термин для ИИ, сообщающего неверную информацию. Это называется Галлюцинация ИИ.
In искусственный интеллект (ИИ), а галлюцинация or искусственная галлюцинация уверенный ответ искусственного интеллекта, который, кажется, не оправданный своим данные обучения.[1]
В обработке естественного языка галлюцинация часто определяется как «сгенерированный контент, который является бессмысленным или не соответствует предоставленному исходному контенту».
ChatGPT умеет выдумывать факты и весьма убедительно их аргументировать. Это может привести к распространению в интернете дезинформации под видом экспертных мнений.
Итак, учитывая все эти риски, связанные с ChatGPT, от дезинформации до написания вредоносного ПО и предоставления рецепта для эксплуатации уязвимостей в режиме реального времени как неквалифицированным, так и опытным хакерам, что следует предпринять компаниям, чтобы подготовиться? Какие контрмеры помогут защитить вашу компанию от взлома со стороны ChatGPT?
Интересно, что контрмеры, направленные на борьбу с рисками ChatGPT, в основном остались теми же, что и до его появления. Внедрение этих контрмер в вашей компании становится всё более актуальным, поскольку число хакеров, способных проводить сложные, изощрённые и правдоподобные атаки, резко растёт с появлением ChatGPT. Однако сами атаки в целом остаются теми же. Давайте рассмотрим каждую из пяти тёмных сторон, которые устраняет ChatGPT, и меры противодействия им.
Противодействовать использование уязвимости В ваших устройствах, подключенных к Интернету и внутренних, необходимо регулярно сканировать их и устранять все выявленные критические риски. Это называется сканирование уязвимостейВы можете сделать это извне, используя практически любой сканер уязвимостей. Внутри системы вам потребуется развернуть локальный сканер, которому вы предоставите учётные данные. Это позволит сканеру опрашивать не только порты и протоколы, используемые в сети, но и операционную систему сканируемого устройства. Это позволит вам обнаружить недостающие исправления. прошивки Необходимые обновления и даже слабые конфигурации. Правильный инструмент сканирования поможет вам расставить приоритеты в работе, и вы сможете потратить время на устранение наиболее критических уязвимостей в вашей инфраструктуре, прежде чем ими воспользуются хакеры.
По оценкам Последний ежегодный отчет Verizon об утечке данных82% всех нарушений связаны с человеческим фактором. Ваши сотрудники ответственны за 82% нарушений. К сожалению, это не их вина. Вы бы стали винить сотрудника за то, что он не может назвать имена президентов 10 иностранных государств? Однако мы обвиняем их в том, что они кликают по фишинговым письмам, повторно используют пароли и становятся жертвами атак социальной инженерии, хотя мы никогда не обучали их этим важнейшим навыкам кибербезопасности!
Обучение осведомленности, тестирование на фишинг и политики управления должны быть в центре списка контрмер каждой компании для борьбы с нынешним потоком хакерских атак. ChatGPT открыл двери для ещё большего числа хакеров. Готовы ли вы и ваши сотрудники к росту числа атак, который станет возможным благодаря ChatGPT? Эти атаки будут более очевидными, точными и убедительными, чем всё, что мы видели ранее. Сейчас, до взлома, самое время контролировать, тестировать и обучать пользователей.
Контрмеры здесь те же, что и в прошлом десятилетии, и, возможно, останутся такими и в следующем. Компаниям необходимо расширить традиционные фишинговые письма с атаками с новым и, возможно, лучшим фишинговые упражнения на основе заданий Разработанный для обучения, а не наказания пользователей. Этот новый вид фишингового тестирования гораздо более эффективен для MSP-провайдеров, которые его внедряют. Руководители также получают выгоду от использования показателей соответствия, которые сообщают об успешном прохождении проверки на фишинг каждым пользователем (что раньше было невозможно). Конечные пользователи, которые расширяют свои знания, становятся достаточно глубокими, чтобы уверенно, эффективно и результативно обнаруживать и предотвращать каждую фишинговую атаку, с которой сталкиваются. MSP-провайдеры получают выгоду от того, что им не нужно создавать списки разрешённых адресов для фишингового тестирования, а также они перестают получать надоедливые письма с вопросами: «Это письмо о фишинговой атаке? Я просто не уверен».
Есть ли у вашего MSP-провайдера строгий процесс аутентификации для определения личности каждого обратившегося в службу поддержки? Что, если позвонит секретарь генерального директора с просьбой сбросить учётную запись генерального директора? Как вы сможете своевременно проверить этот запрос, не создавая лишних задержек и не раздражая самого важного человека в офисе клиента? Вам нужно отладить эти процессы. Возможно, это будет портал сброса пароля, который сможет аутентифицировать пользователя другими новыми способами (основанными на MFA, верно?). Суть в том, что ChatGPT поможет хакерам отточить навыки социальной инженерии до уровня идеально отрепетированных атак. ChatGPT даст им точные указания относительно взаимодействия со службой поддержки, и они найдут убедительные способы обойти ваши меры. Не допускайте этого. Будьте готовы к тому, что сотрудники службы поддержки будут хорошо обучены выявлять, сообщать и эскалировать любые случаи, которые кажутся попыткой социальной инженерии. Конечно, это не новая контрмера. В ближайшем будущем это может стать еще важнее, поскольку хакеры станут более искусными в использовании ИИ для планирования своих атак.
В последние годы уровень дезинформации значительно вырос. Социальные сети породили тысячу теорий заговора. Любой, у кого есть последипломное образование, помнит, что любой факт должен быть подкреплен ссылкой. Нецитируемые факты в научной работе — это глупость.
Компаниям необходимо проверять статьи в блогах, используя первоисточники. CyberHoot перестал ссылаться на распространённый в кругах специалистов по кибербезопасности факт: «60% компаний, подвергшихся взлому, прекращают свою деятельность в течение 6 месяцев», поскольку мы не можем найти оригинал этой цитаты. Она передавалась из статьи в статью и является заведомо ложной информацией. Мы не будем её цитировать. Вам следует проверять свои факты цитатами, а не слепо доверять ответам ChatGPT. Будьте здоровы в своих скептицизме. Используйте источники достоверной информации, которые придерживаются такого подхода к освещению событий. Во многих новостных организациях есть целая группа людей, называемых фактчекерами, чья работа заключается в проверке фактов в статьях. Это не значит, что в репортажах нет «предвзятости», которая всё же просачивается. Факты подобны статистике: ими часто можно манипулировать, чтобы они соответствовали вашим предубеждениям. Googleнеявное смещение» для получения более подробной информации по этой теме.
Атаки, которые позволяет реализовать ChatGPT, на самом деле не являются новыми. Скорее, это старые атаки, которые могут осуществить опытные хакеры, прошедшие тщательное обучение. ChatGPT просто открывает двери для тысяч новых потенциальных хакеров. Раньше менее опытные хакеры не смогли бы выполнить пять атак, которые ChatGPT упрощает или делает возможными. Это означает, что всем нам нужно готовиться к очередному росту числа атак. Более того, компании, которые могли бы быть недоступны для некоторых атак, например, детская больница, могут подвергнуться атакам менее ответственных хакеров. Сейчас самое время подготовить свою организацию. Подготовьтесь к этому, внедрив политики управления, пройдя обучение по повышению осведомленности, проверив фишинг по заданию и пройдя базовое обучение. Вы будете рады, что сделали это.
Источник:
Писк компьютера: ChatGPT может представлять большую угрозу кибербезопасности, чем реальную пользу
Хакеры теперь используют ChatGPT для создания вредоносного ПО
Дополнительная литература:
Узнавайте и делитесь последними тенденциями, советами и передовыми методами в области кибербезопасности, а также новыми угрозами, на которые следует обратить внимание.
Руководство по выявлению мошеннических схем, когда мошенники выдают себя за высокопоставленных руководителей, прежде чем поддельный генеральный директор получит настоящий банковский перевод. Это...
Читать далее
Искусственный интеллект (ИИ) делает фишинговые письма умнее, вредоносное ПО — хитрее, а кражу учетных данных — проще...
Читать далее
DocuSign стал одним из самых надежных инструментов в современном бизнесе. Контракты, кадровая документация, соглашения о неразглашении, работа с поставщиками...
Читать далееБолее пристальное внимание к человеческим рискам с помощью позитивного подхода, который превосходит традиционное тестирование на фишинг.
