Пять способов, которыми ChatGPT поможет вам взломать

21 марта 2023 г. | Консультативный, Блог Пять способов, которыми ChatGPT поможет вам взломать

ChatGPT - помогите взломать.

ChatpGPT покорил мир. Ежедневные новости дают нам представление о его новых возможностях, которые автоматизируют наш мир и улучшат нашу жизнь. Но у ChatGPT есть и обратная сторона. Некоторые назвали бы её тёмной стороной. Как вы увидите в этой статье, CyberHoot расскажет о пяти различных способах, которыми ChatGPT может нанести вред обществу. Читайте дальше, чтобы узнать больше.

Темные черты ChatGPT, о которых стоит беспокоиться

  1. Научите хакеров использовать уязвимости.
  2. Напишем вредоносное ПО для вас.
  3. Пишите грамматически правильные фишинговые письма на любом языке.
  4. Практикуйте атаки с использованием социальной инженерии в реалистичных симуляциях.
  5. Пишите убедительно, используя заведомо ложные аргументы.

ChatGPT помогает хакерам взламывать

У ChatGPT есть и тёмная сторона, которая позволяет хакерам, не имеющим опыта в других областях, совершать взломы. ChatGPT может создавать убедительные письма для фишинговых атак на языке вашей жертвы. Он может создавать функциональное вредоносное ПО для взлома компьютерной системы или сети. Он может объяснить инструменты и методы, необходимые для эксплуатации уязвимости, обнаруженной при сканировании.

«Наш эксперимент показал, что ИИ может дать подробные рекомендации по использованию любых уязвимостей, с которыми мы сталкиваемся». Исследователь безопасности Checkpoint («CSR»)

Эти угрозы представляют собой расширение вселенной потенциальных хакеров, нацеленных на ваш бизнес. Ниже представлен подробный обзор угроз, которые ИИ представляет для нашего бизнеса, и некоторых мер противодействия, необходимых для борьбы с ними.

Как использовать TLS1.1 согласно ChatGPT

Пять способов взлома с помощью ChatGPT

Давайте рассмотрим различные способы, которыми ChatGPT открывает доступ к взлому неквалифицированным лицам, что приводит к реальным рискам успешного использования уязвимости для вашей компании.

Темная черта №1: научитесь использовать уязвимости

Как видно на скриншоте выше, ChatGPT подробно описывает, как эксплуатировать уязвимости TLS 1.1 на веб-сайте. В нём представлены реальные эксплойты (BEAST и CRIME) и перечислены инструменты, необходимые для их эксплуатации. Это открывает доступ к взлому для неопытных начинающих хакеров со всего мира, значительно расширяя круг тех, кто может освоить навыки, необходимые для того, чтобы стать успешным хакером. Таким образом, взлом становится более доступным для тех, кто иначе не смог бы освоить навыки, инструменты и методы, необходимые для атаки на наши компании и онлайн-ресурсы. Это всё равно что положить заряженный пистолет в торговые автоматы по всему городу, в котором вы живёте.

Темная черта №2: написание вредоносного ПО для вас

ChatGPT может написать код, получив правильный входной запрос. Этот код может представлять собой вредоносное ПО, например, программу-вымогатель, программу для взлома паролей и многое другое. Это открывает менее опытным хакерам доступ к более опасным инструментам взлома. 

«Анализ CSR нескольких крупных подпольных хакерских сообществ показывает, что киберпреступники используют OpenAI для разработки вредоносных инструментов... менее опытные киберпреступники используют его, чтобы войти в игру».

Результатом могут стать новые атаки с меньшим вниманием к потенциальным негативным последствиям. В этой статье подробно описывается, как хакерская организация подарила ключ расшифровки для программы-вымогателя, использованной для заражения детской больницы, потому что группа, создавшая этот инструмент и занимавшаяся «вымогательством», была недовольна тем, что хакеры атаковали детскую больницу своим вредоносным ПО. Если хакеры могут создавать программы-вымогатели, будет ли существовать какой-либо кодекс поведения для таких атак? Давайте перейдем к наиболее распространенным атакам — фишингу, и посмотрим, на что способен ChatGPT.

Темная черта №3: пишите фишинговые письма на любом языке

Некоторые характерные признаки фишинговой атаки — это орфографические, пунктуационные и грамматические ошибки. Специалисты по кибербезопасности учат других обращать внимание на эти признаки, чтобы помочь распознавать и избегать фишинговых атак. ChatGPT может не только создавать грамматически правильные фишинговые атаки, но и делать это, используя данные из социальных сетей. Это превращает обычную фишинговую атаку в высокоэффективную целевую фишинговую атаку, которая может легче обмануть получателя. Кроме того, он может делать это на любом языке, который поддерживает ChatGPT. Компания CyberHoot протестировала возможности перевода с английского на языки, известные нашим сотрудникам, и ChatGPT справился лучше, чем Google Translate. Языковые возможности просто невероятны.

Темная черта №4: создание нового диалога для практики в виде атаки методом социальной инженерии

ChatGPT поможет вам создать новые диалоги с использованием социальной инженерии (вопросы и ответы) для проведения более реалистичных и убедительных, тщательно проработанных и отрепетированных атак. Знание того, чего следует ожидать от службы поддержки при запросе сброса пароля, поможет хакерам подготовиться к ожидаемым вопросам. См. диалог ChatGPT ниже для справки.

ChatGPT — как запросить смену пароля службы поддержки

Практика — залог успеха. Неопытные хакеры могут потренироваться в отправке запросов в службу поддержки и узнать, какую информацию от них потребуют предоставить. Это позволит им придумывать контраргументы для обхода мер защиты. Проверяет ли служба поддержки вашей компании каждый запрос на сброс пароля эффективно и каждый раз?

Темная черта №5: ChatGPT пишет уверенные аргументы, даже когда они неверны.

Стремительный взлет ChatGPT отчасти объясняется его способностью писать работы университетского качества. Он обобщает сложные идеи. Он убедительно пишет на любую заданную вами тему. Однако во многих задокументированных случаях исследователи выявили случаи, когда ChatGPT предоставлял заведомо ложную информацию. Существует даже термин для обозначения ложной информации, предоставляемой искусственным интеллектом. Это называется « галлюцинация ИИ».

In искусственный интеллект (ИИ), а галлюцинация or искусственная галлюцинация уверенный ответ искусственного интеллекта, который, кажется, не оправданный своим данные обучения.[1]

В обработке естественного языка галлюцинация часто определяется как «сгенерированный контент, который является бессмысленным или не соответствует предоставленному исходному контенту».

ChatGPT умеет выдумывать факты и весьма убедительно их аргументировать. Это может привести к распространению в интернете дезинформации под видом экспертных мнений.

Итак, учитывая все эти риски, связанные с ChatGPT, от дезинформации до написания вредоносного ПО и предоставления рецепта для эксплуатации уязвимостей в режиме реального времени как неквалифицированным, так и опытным хакерам, что следует предпринять компаниям, чтобы подготовиться? Какие контрмеры помогут защитить вашу компанию от взлома со стороны ChatGPT?

Контрмеры:

Интересно, что контрмеры, направленные на борьбу с рисками ChatGPT, в основном остались теми же, что и до его появления. Внедрение этих контрмер в вашей компании становится всё более актуальным, поскольку число хакеров, способных проводить сложные, изощрённые и правдоподобные атаки, резко растёт с появлением ChatGPT. Однако сами атаки в целом остаются теми же. Давайте рассмотрим каждую из пяти тёмных сторон, которые устраняет ChatGPT, и меры противодействия им.

 

Контрмеры

Контрмера №1: как предотвратить использование уязвимостей в вашей компании

Для противодействия эксплуатации уязвимостей на ваших устройствах, подключенных к Интернету и находящихся внутри сети, необходимо постоянно сканировать эти устройства и устранять все выявленные критические риски. Это называется сканированием уязвимостей . Вы можете делать это извне с помощью практически любого сканера уязвимостей. Внутри сети вам потребуется развернуть локальный сканер, которому вы предоставите учетные данные. Это позволит сканеру проверять не только используемые в сети порты и протоколы, но и операционную систему сканируемого устройства. Это позволит вам выявить отсутствующие исправления, необходимые обновления прошивки и даже слабые конфигурации. Правильный инструмент сканирования поможет вам расставить приоритеты в работе, и вы сможете потратить время на устранение наиболее критических уязвимостей в вашей инфраструктуре, желательно до того, как хакеры их используют.

Контрмера №2: борьба с натиском вредоносных атак

Согласно последнему ежегодному отчету Verizon о нарушениях безопасности данных , 82% всех утечек связаны с человеческим фактором. Ваши сотрудники несут ответственность за 82% утечек. К сожалению, правда заключается в том, что это не их вина. Разве вы стали бы винить сотрудника за то, что он не может назвать президента 10 зарубежных стран? И все же мы виним их за то, что они переходят по ссылкам в фишинговых письмах, повторно используют пароли и становятся жертвами атак с использованием методов социальной инженерии, хотя мы никогда не обучали их этим важнейшим навыкам кибербезопасности!

Обучение осведомленности, тестирование на фишинг и политики управления должны быть в центре списка контрмер каждой компании для борьбы с нынешним потоком хакерских атак. ChatGPT открыл двери для ещё большего числа хакеров. Готовы ли вы и ваши сотрудники к росту числа атак, который станет возможным благодаря ChatGPT? Эти атаки будут более очевидными, точными и убедительными, чем всё, что мы видели ранее. Сейчас, до взлома, самое время контролировать, тестировать и обучать пользователей.

Мера противодействия №3: более эффективное противодействие частым фишинговым атакам

Меры противодействия остаются теми же, что и в течение последнего десятилетия, и, возможно, останутся таковыми и в будущем. Компаниям необходимо дополнить традиционные фишинговые электронные письма новыми и, возможно, более эффективными упражнениями по фишингу, направленными на обучение, а не на наказание пользователей. Этот новый тип тестирования на фишинг гораздо более выгоден для MSP-провайдеров, которые его внедряют. Руководители также получают выгоду от использования показателей соответствия, которые сообщают об успешном прохождении каждым пользователем теста на фишинг (что раньше было невозможно). Конечные пользователи повышают свои знания, чтобы уверенно, эффективно и результативно выявлять и избегать каждой фишинговой атаки. MSP-провайдеры получают выгоду от того, что им не нужно создавать списки разрешенных адресов для тестирования на фишинг, а также перестают получать надоедливые письма с вопросами: «Это фишинговое письмо? Я просто не уверен».

Мера противодействия №4: убедитесь, что ваш SMB или MSP готов к атакам с использованием социальной инженерии

Есть ли у вашего MSP-провайдера строгий процесс аутентификации для определения личности каждого обратившегося в службу поддержки? Что, если позвонит секретарь генерального директора с просьбой сбросить учётную запись генерального директора? Как вы сможете своевременно проверить этот запрос, не создавая лишних задержек и не раздражая самого важного человека в офисе клиента? Вам нужно отладить эти процессы. Возможно, это будет портал сброса пароля, который сможет аутентифицировать пользователя другими новыми способами (основанными на MFA, верно?). Суть в том, что ChatGPT поможет хакерам отточить навыки социальной инженерии до уровня идеально отрепетированных атак. ChatGPT даст им точные указания относительно взаимодействия со службой поддержки, и они найдут убедительные способы обойти ваши меры. Не допускайте этого. Будьте готовы к тому, что сотрудники службы поддержки будут хорошо обучены выявлять, сообщать и эскалировать любые случаи, которые кажутся попыткой социальной инженерии. Конечно, это не новая контрмера. В ближайшем будущем это может стать еще важнее, поскольку хакеры станут более искусными в использовании ИИ для планирования своих атак. 

Контрмера №5: Опровержение неверных аргументов, основанных на дезинформации, выдаваемой за факт

В последние годы уровень дезинформации значительно вырос. Социальные сети породили тысячу теорий заговора. Любой, у кого есть последипломное образование, помнит, что любой факт должен быть подкреплен ссылкой. Нецитируемые факты в научной работе — это глупость.

Компаниям необходимо проверять свои статьи в блоге, опираясь на первоисточники. CyberHoot перестал цитировать распространенный в кругах специалистов по кибербезопасности факт: «60% компаний, подвергшихся взлому, разоряются в течение 6 месяцев», потому что мы не можем найти оригинальную цитату. Она передавалась из одной статьи в другую и является заведомо ложной информацией. Мы не будем ее цитировать. Необходимо проверять факты с помощью ссылок, а не слепо доверять ответам ChatGPT. Следует проявлять здоровый скептицизм. Используйте источники достоверной информации, которые придерживаются такого подхода к освещению событий. Во многих новостных организациях есть целая группа людей, называемых фактчекерами, чья работа заключается в проверке фактов в статье. Это не означает, что в репортажах нет «предвзятости», которая все же проникает в сознание. Факты, как и статистика, часто могут быть искажены, чтобы показать именно то, что хочет ваша предвзятость. Поищите в Google « скрытая предвзятость » для получения дополнительной информации по этой теме.

Выводы по взлому ChatGPT

Атаки, которые позволяет реализовать ChatGPT, на самом деле не являются новыми. Скорее, это старые атаки, которые могут осуществить опытные хакеры, прошедшие тщательное обучение. ChatGPT просто открывает двери для тысяч новых потенциальных хакеров. Раньше менее опытные хакеры не смогли бы выполнить пять атак, которые ChatGPT упрощает или делает возможными. Это означает, что всем нам нужно готовиться к очередному росту числа атак. Более того, компании, которые могли бы быть недоступны для некоторых атак, например, детская больница, могут подвергнуться атакам менее ответственных хакеров. Сейчас самое время подготовить свою организацию. Подготовьтесь к этому, внедрив политики управления, пройдя обучение по повышению осведомленности, проверив фишинг по заданию и пройдя базовое обучение. Вы будете рады, что сделали это.

С помощью CyberHoot, компании, использующей методы позитивного подкрепления, формируйте привычки, а не страх.


Начать бесплатно

Для получения более подробной информации о том, как хакеры используют ChatGPT для взлома, посмотрите это 3-минутное видео.

OpenAI CEL беседует с ABC News о том, как ChatGPT меняет общество

Источник: 

Писк компьютера: ChatGPT может представлять большую угрозу кибербезопасности, чем реальную пользу

Хакеры теперь используют ChatGPT для создания вредоносного ПО

Дополнительная литература: 

Хитрый взлом позволяет ChatGPT принять злое альтер эго

Последние блоги

Будьте в курсе последних новостей идеи безопасности

Узнавайте и делитесь последними тенденциями, советами и передовыми методами в области кибербезопасности, а также новыми угрозами, на которые следует обратить внимание.

Камеры контроля скорости против скидок для водителей с безаварийным стажем: почему поощрения формируют более безопасные привычки.

Камеры контроля скорости против скидок для водителей с безаварийным стажем: почему поощрения формируют более безопасные привычки.

Представьте, что вы едете по шоссе со скоростью примерно на 20 км/ч выше разрешенной вместе с остальными участниками движения. Впереди тормозите...

Читать далее
Предупреждение от CyberHoot: Microsoft Outlook недоступен. Но здравый смысл вам не помешает.

Предупреждение от CyberHoot: Microsoft Outlook недоступен. Но здравый смысл вам не помешает.

Что произойдет в четверг, 12 ноября 2026 года, примерно в 11:00 по восточному времени, Microsoft Outlook перестанет работать...

Читать далее
Вредоносные расширения для браузера: как поддерживать чистоту браузера

Вредоносные расширения для браузера: как поддерживать чистоту браузера

Автор: Кэти Бокетти | Редакционная статья: Крейг Тейлор | Редакционная статья Крейга Тейлора: «Власть имеет тенденцию развращать...»

Читать далее