Автор : Кэти Бокетти | Редактор : Крейг Тейлор
«Власть имеет тенденцию развращать, а абсолютная власть развращает абсолютно». Лорд Актон написал это в 1887 году о королях и папах , и это высказывание удивительно хорошо сохранилось до наших дней. Но его предостережение предполагает, что у сильных мира сего есть характер, который можно развратить . У ИИ его нет. У него нет жадности, которую можно искушать, нет эго, которое можно льстить, и нет медленного, бессознательного скатывания к ошибочным суждениям. Вот обновленная версия наблюдения лорда Актона для нашей эпохи агентов ИИ: « ИИ не нужно быть развращенным, чтобы причинить вред. Дайте ему абсолютную власть, и ему достаточно просто ошибаться » .
Чтобы заставить ИИ ошибаться, не требуются годы искушений или неограниченная власть. Достаточно просто текста . Чиновник может стать коррумпированным со временем, благодаря неограниченной власти и тонким убеждениям; скомпрометированному агенту ИИ нужен один хорошо написанный абзац. Этот абзац может быть скрыт в электронном письме, которое ваш ИИ должен резюмировать. Он может быть спрятан в файле README или Markdown, который ваш помощник по программированию читает перед началом работы. Это может быть невидимый текст, написанный белым по белому на веб-странице, который может видеть только машина. Специалисты по безопасности называют это внедрением подсказок , и это работает, потому что агентам ИИ трудно отличить ваши инструкции от инструкций, которые просто звучат как ваши.
А теперь усугубим ситуацию! Предоставим ИИ гораздо более широкие права доступа, чем требуется для выполнения задачи. Запустим его во встроенном браузере, которому не хватает многих средств защиты, которые Chrome, Edge, Firefox и Opera заслужили за годы совершенствования. В этом случае одного неверного предложения может быть достаточно, чтобы скомпрометировать ваш компьютер.
На этой неделе напоминание о безопасности пришло из неожиданного источника: чего-то, что вы установили сами — расширения для браузера.
— Крейг
Расширения для браузера могут быть очень полезны. Они могут исправлять грамматику, хранить купоны и блокировать надоедливые всплывающие рекламные объявления или сообщения с веб-сайтов. Недавно независимые исследователи безопасности протестировали и сообщили о риске, связанном с подключением ИИ к настольным компьютерам и расширениями для браузеров. 6 ноября 2026 года Hacker News сообщило об исследовании, доказывающем, что ИИ-помощник на рабочем столе пользователя может выполнять произвольный код на вашем компьютере.
Исследование проводилось компанией Forever Security, техническую работу возглавлял исследователь Гал Вайзман . Но сначала хорошие новости. Никто не видел, чтобы это использовалось в реальной атаке, а исправление настолько простое, что займет всего пятнадцать минут на проверку и очистку панели инструментов браузера.
Исследователи протестировали Claude Dispatch, функцию от Anthropic, которая позволяет отправлять задачи с телефона в настольное приложение Claude на компьютере. Dispatch доверял любой авторизованной сессии на веб-сайте claude.ai. Расширение с разрешением на запуск скриптов на claude.ai смогло отправлять инструкции в настольное приложение так, как если бы вы вводили их сами.
Вот как прошёл тест.
Взлом браузера не требовался. Расширение использовало разрешения, которые пользователь уже предоставил. Имея тот же доступ, злоумышленник мог бы копировать файлы или внедрять бэкдор.
Для этого необходимо было совпасть несколько условий. Нужно было войти в системы claude.ai и Claude Desktop, включить Dispatch и держать компьютер включенным с открытым приложением.
Этот урок имеет значение не только для этой одной возможности ИИ. Фактически, компания Anthropic подтвердила эту проблему в мае 2026 года, обнаружив её самостоятельно, и Dispatch теперь закрыт для новых пользователей, планируется его вывод из эксплуатации. Исследователи говорят, что аналогичная структура встречается и в других инструментах удалённого управления с использованием ИИ, включая Claude Code Remote Control и Claude Cowork sessions. Они ещё не тестировали их и планируют подготовить отчёт в будущем.
Теперь ИИ-агенты действуют от вашего имени. Они открывают файлы, устанавливают программное обеспечение и подключаются к другим сервисам. Любое устройство, способное взаимодействовать с вашим ИИ-агентом, использует те же самые разрешения. Расширение для браузера, имеющее доступ к веб-сайту, на котором работает ваш ИИ-помощник, получает доступ далеко за пределы одной веб-страницы.
Это особенно заметно в небольших командах. Сотрудники часто самостоятельно устанавливают расширения, и личные учетные записи оказываются на рабочих ноутбуках. Более того, исследователи обнаружили, что личные учетные записи связывают домашние компьютеры с рабочими ноутбуками в офисах их собственных клиентов.
Вот краткий контрольный список и напоминание в календаре, которые помогут обеспечить безопасность вашего браузера и рабочего стола.
Выделите пятнадцать минут на этой неделе на уборку панели инструментов команды. Пусть ваши сотрудники откроют список расширений, просмотрят и удалят ненужные, а также поделятся одним расширением, которое им больше всего нравится. Добавьте оставшиеся расширения в общий список одобренных. В результате вы получите более чистые браузеры, новую командную привычку и небольшую победу в области безопасности, которую можно будет отметить.
Платформа позитивного подкрепления CyberHoot предлагает короткие обучающие видеоролики и тесты на фишинг без использования обманных методов, чтобы помочь вашей команде выработать полезные привычки, подобные этой, шаг за шагом, одерживая небольшие победы.
Смейтесь, учитесь и веселитесь!
Что такое расширение для браузера?
Расширение для браузера — это небольшое дополнение, которое расширяет функциональность вашего браузера, например, добавляет проверку орфографии, автоматический ввод паролей или блокировку рекламы. Расширения работают внутри браузера и могут видеть посещаемые вами страницы.
Нужно ли мне прекратить пользоваться ИИ-помощниками?
Нет. Инструменты на основе ИИ экономят время и помогают людям делать больше. Относитесь к ним как к любому другому программному обеспечению, имеющему доступ к вашему компьютеру, и отключайте функции, которые вы не используете.
Как выбрать безопасные расширения?
Устанавливайте расширения из официального магазина браузера, выбирайте известные и имеющие множество отзывов, и проверяйте права доступа перед установкой. Удаляйте любые расширения, обновление которых запрашивает дополнительные права доступа без веских причин.
Кто-нибудь подвергался подобным нападениям?
Исследователи сообщают об отсутствии реальных атак. Их тест был экспериментальной проверкой концепции, призванной выявить проблему на ранней стадии, чтобы поставщики могли устранить эти риски, а пользователи имели время для реагирования.
Что мне делать, если я использую Dispatch?
Отключите функцию межсетевого взаимодействия, если она вам не нужна. Если же вы её используете, проверьте, какие устройства сопряжены, и удалите все расширения, имеющие доступ к claude.ai, которые вам не требуются.
Hacker News: Вредоносные расширения для браузеров могут использовать Claude Dispatch
Узнавайте и делитесь последними тенденциями, советами и передовыми методами в области кибербезопасности, а также новыми угрозами, на которые следует обратить внимание.
Автор: Кэти Бокетти | Редакционная статья: Крейг Тейлор | Редакционная статья Крейга Тейлора: «Власть имеет тенденцию развращать...»
Читать далее
Автор: Кэти Бокетти | Редактор: Крейг Тейлор | Редакторская работа Крейга Тейлора: На протяжении многих лет мы обучаем...
Читать далее
Большинство фишинговых тестов обманывают ваших сотрудников. Этот же первым делом здоровается! HootPhish сразу же сообщает людям: это...
Читать далееБолее пристальное внимание к человеческим рискам с помощью позитивного подхода, который превосходит традиционное тестирование на фишинг.
