Autor : Katie Boquetti | Redakcia : Craig Taylor
„Moc má tendenciu korumpovať a absolútna moc korumpuje absolútne.“ Lord Acton to napísal v roku 1887 o kráľoch a pápežoch a toto varovanie sa pozoruhodne dobre ujalo. Jeho varovanie však predpokladá, že mocní majú charakter, ktorý ich kazí . UI ho nemá. Nemá žiadnu chamtivosť, ktorá by lákala, žiadne ego, ktoré by jej lichotilo, a žiadne pomalé, nevedomé skĺznutie do zlého úsudku. Tu je aktualizovaná verzia pozorovania lorda Actona pre našu éru agentov UI: „ UI nemusí byť skorumpovaná, aby spôsobila škodu. Dajte jej absolútnu moc a stačí, ak sa mýli. “
Presvedčiť umelú inteligenciu, aby sa mýlila, nevyžaduje roky pokušenia ani nespútanú moc. Stačí len text . Úradník sa môže skorumpovať, ak má k dispozícii čas, nekontrolovanú moc a jemné presviedčanie; kompromitovaný agent umelej inteligencie potrebuje jeden dobre napísaný odsek. Tento odsek môže byť skrytý v e-maile, ktorý má vaša umelá inteligencia zhrnúť. Môže byť zastrčený v súbore README alebo Markdown, ktorý si váš asistent kódovania prečíta predtým, ako začne pracovať. Môže to byť neviditeľný biely text na bielom pozadí na webovej stránke, ktorý vidí iba stroj. Bezpečnostní pracovníci to nazývajú prompt injection a funguje to, pretože agenti umelej inteligencie majú problém rozlíšiť vaše pokyny od pokynov, ktoré len znejú ako vy.
A teraz to ešte zhoršte! Dajte umelej inteligencii oveľa širšie oprávnenia, než si úloha vyžaduje. Spustite ju vo vstavanom prehliadači, ktorému chýbajú mnohé ochrany, ktoré si prehliadače Chrome, Edge, Firefox a Opera vyslúžili rokmi zabezpečenia. V tom momente môže stačiť jediná zlá veta na napadnutie vášho počítača.
Bezpečnostné pripomenutie tohto týždňa prišlo z nečakaného programu: niečo, čo ste si sami nainštalovali – rozšírenie prehliadača.
— Craig
Rozšírenia prehliadača môžu byť veľmi užitočné. Môžu opraviť vašu gramatiku, uložiť vaše kupóny a blokovať otravné vyskakovacie reklamy alebo správy z webových stránok. Nedávno nezávislí bezpečnostní výskumníci testovali a nahlásili riziko súvisiace s pripojeniami k počítačom s umelou inteligenciou a rozšíreniami prehliadača. 6. novembra 2026 The Hacker News informoval o výskume, ktorý dokázal, že asistent s umelou inteligenciou na pracovnej ploche používateľa môže na vašom počítači spustiť ľubovoľný kód.
Výskum pochádza zo spoločnosti Forever Security, ktorej technickú prácu viedla výskumníčka Gal Weizmanová . Najprv prinášame dobrú správu. Nikto nevidel tento útok použitý v reálnom svete a oprava je jednoduchá ako pätnásťminútová kontrola a vyčistenie panela s nástrojmi prehliadača.
Výskumníci testovali Claude Dispatch, funkciu od spoločnosti Anthropic, ktorá umožňuje odosielať úlohy z telefónu do aplikácie Claude Desktop v počítači. Dispatch dôveroval každej prihlásenej relácii na webovej stránke claude.ai. Rozšírenie s povolením na spúšťanie skriptov na stránke claude.ai dokázalo odosielať pokyny do desktopovej aplikácie, akoby ste ich zadali sami.
Tu je postup testu.
Nebol potrebný žiadny hack prehliadača. Rozšírenie používalo povolenia, ktoré používateľ už udelil. S rovnakým prístupom by útočník mohol kopírovať súbory alebo nainštalovať zadné vrátka.
Aby to fungovalo, muselo sa splniť niekoľko vecí. Museli ste byť prihlásení do claude.ai aj Claude Desktop, mať zapnutú aplikáciu Dispatch a udržiavať počítač v prebudenom stave s otvorenou aplikáciou.
Toto ponaučenie má význam aj mimo tejto jednej schopnosti umelej inteligencie. V skutočnosti spoločnosť Anthropic tento problém potvrdila v máji 2026 po tom, čo ho sama objavila, a Dispatch je teraz pre nových používateľov uzavretý s plánmi na jeho vyradenie. Výskumníci tvrdia, že podobný dizajn sa objavuje aj v iných nástrojoch umelej inteligencie na diaľku, vrátane Claude Code Remote Control a Claude Cowork Sessions. Zatiaľ ich netestovali a plánujú následnú správu.
Agenti umelej inteligencie teraz konajú vo vašom mene. Otvárajú súbory, inštalujú softvér a pripájajú sa k iným službám. Čokoľvek, čo dokáže komunikovať s vaším agentom umelej inteligencie, si požičiava rovnaké oprávnenia. Rozšírenie prehliadača s prístupom k webovej stránke, na ktorej beží váš asistent umelej inteligencie, získa prístup ďaleko za hranicou jednej webovej stránky.
Najviac to pociťujú malé tímy. Zamestnanci si často inštalujú rozšírenia sami a osobné účty končia na pracovných notebookoch. Výskumníci dokonca zistili, že osobné účty prepájajú domáce počítače s pracovnými notebookmi v kanceláriách ich vlastných zákazníkov.
Tu je krátky kontrolný zoznam a pripomienka v kalendári, ktoré vám pomôžu zabezpečiť váš prehliadač a pracovnú plochu.
Vyhraďte si tento týždeň pätnásť minút na upratanie panela s nástrojmi pre tím. Nechajte svoj tím otvoriť si zoznam rozšírení, skontrolovať a potom odstrániť tie, ktoré nepoužívajú, a zdieľať jedno rozšírenie, ktoré sa im najviac páči. Pridajte tie, ktoré si ponecháte, do zdieľaného schváleného zoznamu. Odídete s čistejšími prehliadačmi, novým tímovým zvykom a malým víťazstvom v oblasti bezpečnosti, ktoré môžete osláviť.
Platforma CyberHoot pre pozitívne posilňovanie poskytuje krátke tréningové videá a testy proti phishingu bez podvádzania, ktoré pomôžu vášmu tímu vybudovať si silné návyky, ako je tento, jedno malé víťazstvo za druhým.
Smejte sa, učte sa a rozprúďte sa!
Čo je to rozšírenie prehliadača?
Rozšírenie prehliadača je malý doplnok, ktorý poskytuje vášmu prehliadaču ďalšie funkcie, ako je kontrola pravopisu, vypĺňanie hesla alebo blokovanie reklám. Rozšírenia sa spúšťajú vo vašom prehliadači a vidia stránky, ktoré navštevujete.
Musím prestať používať asistentov s umelou inteligenciou?
Nie. Nástroje umelej inteligencie šetria čas a pomáhajú ľuďom robiť viac. Zaobchádzajte s nimi ako s akýmkoľvek iným softvérom s prístupom k vášmu počítaču a vypnite funkcie, ktoré nepoužívate.
Ako si vyberiem bezpečné rozšírenia?
Nainštalujte si rozšírenia z oficiálneho obchodu s prehliadačmi, vyberte si známe rozšírenia s množstvom recenzií a pred kliknutím na tlačidlo inštalovať si skontrolujte povolenia. Odstráňte všetky rozšírenia, ktorých aktualizácia vyžaduje viac prístupových práv bez jasného dôvodu.
Bol niekto takto napadnutý?
Výskumníci nehlásia žiadne útoky v reálnom svete. Ich test bol overením konceptu, ktorého cieľom bolo včas odhaliť problém, aby dodávatelia mohli tieto riziká opraviť a používatelia mali čas reagovať.
Čo mám robiť, ak používam službu Dispatch?
Ak nepotrebujete funkciu Cross-device Dispatch, vypnite ju. Ak ju používate, skontrolujte, ktoré zariadenia sú spárované, a odstráňte všetky rozšírenia s prístupom k claude.ai, ktoré nepotrebujete.
Správy hackerov: Škodlivé rozšírenia prehliadača by mohli používať Claude Dispatch
Forever Security: výskum článkov Gal Weizman o rizikách prehliadača a umelej inteligencie
Objavte a zdieľajte najnovšie trendy, tipy a osvedčené postupy v oblasti kybernetickej bezpečnosti – spolu s novými hrozbami, na ktoré si treba dať pozor.
Autor: Katie Boquetti | Editoriál: Craig Taylor Editoriál od Craiga Taylora: „Moc má tendenciu korumpovať,...
Čítaj viac
Autor: Katie Boquetti | Editorial: Craig Taylor Editorial od Craiga Taylora: Roky sme trénovali...
Čítaj viac
Väčšina phishingových testov klame vašim zamestnancom. Tento vás ako prvý pozdraví! HootPhis ľuďom hneď na začiatku hovorí: toto je...
Čítaj viacZískajte bystrejší pohľad na ľudské riziká s pozitívnym prístupom, ktorý prekonáva tradičné phishingové testovanie.
