Autor : Katie Boquetti | Redakční ředitel : Craig Taylor
„Moc má tendenci korumpovat a absolutní moc korumpuje absolutně.“ Lord Acton to napsal v roce 1887 o králích a papežích a toto varování si pozoruhodně dobře uchovalo svou platnost. Jeho varování však předpokládá, že mocní mají charakter, který korumpuje . Umělá inteligence to nemá. Nemá chamtivost, kterou by sváděla, žádné ego, které by jí lichotilo, a žádné pomalé, nevědomé sklouzávání ke špatnému úsudku. Zde je aktualizovaná verze Actonova pozorování pro naši éru agentů umělé inteligence: „ Umělá inteligence nemusí být korumpovaná, aby způsobila škodu. Dejte jí absolutní moc a stačí, aby se mýlila. “
Přimět umělou inteligenci, aby se mýlila, nevyžaduje roky pokušení ani nespoutanou moc. Stačí jen text . Úředník se může zkorumpovat s dostatečným časem, nekontrolovanou mocí a jemným přesvědčováním; kompromitovaný agent umělé inteligence potřebuje jeden dobře napsaný odstavec. Tento odstavec může být skrytý v e-mailu, který má vaše umělá inteligence shrnout. Může být zastrčen v souboru README nebo Markdown, který si váš asistent kódování přečte, než se pustí do práce. Může se jednat o neviditelný bílý text na webové stránce, který vidí pouze stroj. Bezpečnostní specialisté tomu říkají „ prompt injection“ a funguje to, protože agenti umělé inteligence mají problém rozlišit mezi vašimi pokyny a pokyny, které pouze zní jako vy.
A teď to ještě zhoršte! Dejte umělé inteligenci mnohem širší oprávnění, než vyžaduje daný úkol. Spusťte ji v integrovaném prohlížeči, kterému chybí mnoho ochran, které si Chrome, Edge, Firefox a Opera vydobyly za roky zabezpečení. V takovém případě může stačit jediná špatná věta k napadení vašeho počítače.
Bezpečnostní připomínka tohoto týdne přišla z nečekaného zdroje: něco, co jste si sami nainstalovali – rozšíření prohlížeče.
— Craig
Rozšíření prohlížeče mohou být velmi užitečná. Mohou opravit vaši gramatiku, ukládat vaše kupóny a blokovat otravné vyskakovací reklamy nebo zprávy z webových stránek. Nedávno nezávislí bezpečnostní výzkumníci testovali a nahlásili riziko týkající se připojení k počítači s umělou inteligencí a rozšíření prohlížeče. 6. listopadu 2026 The Hacker News informoval o výzkumu, který prokázal, že asistent s umělou inteligencí na počítači uživatele může na vašem počítači spustit libovolný kód.
Výzkum proběhl ve společnosti Forever Security, kde technickou práci vedla výzkumnice Gal Weizmanová . A tady je první dobrá zpráva. Nikdo neviděl tento útok použitý v reálném světě a oprava je stejně snadná jako patnáctiminutová kontrola a vyčištění panelu nástrojů v prohlížeči.
Výzkumníci testovali Claude Dispatch, funkci od společnosti Anthropic, která umožňuje odesílat úkoly z telefonu do aplikace Claude Desktop v počítači. Dispatch důvěřoval jakékoli přihlášené relaci na webu claude.ai. Rozšíření s oprávněním spouštět skripty na claude.ai dokázalo odesílat pokyny do desktopové aplikace, jako byste je sami zadali.
Takhle test dopadl.
Nebyl nutný žádný hack prohlížeče. Rozšíření používalo oprávnění, která uživatel již udělil. Se stejným přístupem by útočník mohl kopírovat soubory nebo nainstalovat zadní vrátka.
Aby to fungovalo, muselo se splnit několik věcí. Museli jste být přihlášeni do claude.ai i Claude Desktop, mít zapnutou funkci Dispatch a udržovat počítač v probuzeném stavu s otevřenou aplikací.
Toto ponaučení má význam i mimo tuto jednu schopnost umělé inteligence. Společnost Anthropic tento problém dokonce potvrdila v květnu 2026 poté, co jej sama objevila, a Dispatch je nyní uzavřen pro nové uživatele s plány na jeho ukončení. Výzkumníci tvrdí, že podobný design se objevuje i v dalších nástrojích pro vzdálenou práci s umělou inteligencí, včetně Claude Code Remote Control a Claude Cowork Sessions. Tyto nástroje zatím netestovali a plánují následnou zprávu.
Agenti umělé inteligence nyní jednají vaším jménem. Otevírají soubory, instalují software a připojují se k dalším službám. Vše, co je schopno komunikovat s vaším agentem umělé inteligence, si vypůjčuje stejná oprávnění. Rozšíření prohlížeče s přístupem k webové stránce, na které běží váš asistent umělé inteligence, získá přístup i za hranice jedné webové stránky.
Nejvíce to pociťují malé týmy. Zaměstnanci si často sami instalují rozšíření a osobní účty končí na pracovních noteboocích. Výzkumníci dokonce zjistili, že osobní účty propojují domácí počítače s pracovními notebooky v kancelářích jejich vlastních zákazníků.
Zde je krátký kontrolní seznam a připomenutí v kalendáři pro zabezpečení prohlížeče a počítače.
Vyhraďte si tento týden patnáct minut na úklid panelu nástrojů týmu. Nechte svůj tým otevřít seznam rozšíření, zkontrolovat a poté smazat ta, která nepoužívají, a sdílet jedno rozšíření, které se jim nejvíce líbí. Přidejte ta, která si ponecháte, do sdíleného schváleného seznamu. Odejdete s čistšími prohlížeči, novým týmovým zvykem a malým bezpečnostním vítězstvím, které můžete oslavit.
Platforma CyberHoot pro pozitivní posilování nabízí krátká školicí videa a testy proti phishingu bez podvádění, které pomohou vašemu týmu vybudovat si silné návyky, jako je tento, a to malé vítězství za malým.
Smějte se, učte se a bučte!
Co je rozšíření prohlížeče?
Rozšíření prohlížeče je malý doplněk, který vašemu prohlížeči poskytuje další funkce, jako je kontrola pravopisu, vyplňování hesel nebo blokování reklam. Rozšíření běží uvnitř prohlížeče a vidí stránky, které navštěvujete.
Musím přestat používat asistenty s umělou inteligencí?
Ne. Nástroje umělé inteligence šetří čas a pomáhají lidem dělat více. Zacházejte s nimi jako s jakýmkoli jiným softwarem s přístupem k vašemu počítači a vypněte funkce, které nepoužíváte.
Jak si vybrat bezpečná rozšíření?
Nainstalujte si rozšíření z oficiálního obchodu s prohlížeči, vyberte si známá rozšíření s dostatkem recenzí a před kliknutím na tlačítko Instalovat zkontrolujte oprávnění. Odstraňte všechna rozšíření, jejichž aktualizace požaduje další přístup bez jasného důvodu.
Byl někdo takto napaden?
Výzkumníci nehlásí žádné útoky z reálného světa. Jejich test byl konceptem, jehož cílem bylo včas odhalit problém, aby dodavatelé mohli tato rizika opravit a uživatelé měli čas reagovat.
Co mám dělat, když používám Dispatch?
Pokud službu Cross-device Dispatch nepotřebujete, vypněte ji. Pokud ji používáte, zkontrolujte, která zařízení jsou spárována, a odeberte všechna rozšíření s přístupem k claude.ai, která nepotřebujete.
Zprávy z hackerského světa: Škodlivá rozšíření prohlížeče by mohla používat Claude Dispatch
Forever Security: výzkum článků Gal Weizman o rizicích prohlížečů a umělé inteligence
Objevte a sdílejte nejnovější trendy, tipy a osvědčené postupy v oblasti kybernetické bezpečnosti – a také nové hrozby, na které si dát pozor.
Autor: Katie Boquetti | Editorial: Craig Taylor Editorial od Craiga Taylora: „Moc má tendenci korumpovat,...
Více informací
Autor: Katie Boquetti | Editorial: Craig Taylor Editorial od Craiga Taylora: Léta jsme trénovali...
Více informací
Většina phishingových testů vašim zaměstnancům lže. Tento vás nejdříve pozdraví! HootPhis lidem hned na začátku říká: toto je...
Více informacíZískejte bystřejší pohled na lidská rizika s pozitivním přístupem, který překonává tradiční phishingové testování.
