Otrava umělou inteligencí: Podvod s falešnou podporou – Vyhledávání pomocí umělé inteligence jako nová útočná plocha

16. prosince 2025 | Blog

Kyberzločinci se vždycky dívají na internet, kam se dívají. Ne doslova, ale obrazně. A dnešní pohled se mění. Zatímco Vyhledávání Google stále dominuje, 20–26 % Američanů přešlo pro shromažďování informací na nástroje umělé inteligence , jako jsou ChatGPT, Claude a Perplexity, a toto číslo každý měsíc roste. Podvodníci tuto migraci sledují a přesouvají svou hru od tradičního SEO otravování ve výsledcích vyhledávání Google k mnohem zákeřnější hrozbě: otravování umělou inteligencí.

Podle zpráv z konce let 2024 a 2025 nyní útočníci zneužívají vyhledávací nástroje s využitím umělé inteligence falešnými záznamy o zákaznické podpoře, které přesměrovávají oběti na podvodná telefonní čísla, webové stránky a agenty vydávající se za legitimní společnosti. Společnost Air Canada dostala pokyn zaplatit zákazníkovi, kterého chatbot letecké společnosti uvedl v omyl.

Proč je to?

Zatímco Vyhledávání Google vám umožňuje samostatně vyhodnotit více zdrojů, chatboti s umělou inteligencí vám dají JEDNU jistou odpověď . A tyto odpovědi jsou chybné ve 2–35 % případů v závislosti na tématu a modelu. Když umělá inteligence vymyslí falešné číslo zákaznické podpory a někdo ho zveřejní online, další umělá inteligence, která prohledá web, se toto falešné číslo naučí a zopakuje ho s ještě větší jistotou. Tím se informace o otravě šíří mezi další chatboty, což vede k tomu, že se do vyhledávacích nástrojů umělé inteligence, na které lidé migrují, dostávají další falešné informace. Mnoho uživatelů vyhledávání s umělou inteligencí si je vědomo, že tyto systémy halucinují, ale uvědomují si, že spotřebovávají falešná data, která vkládají pachatelé provádějící propracované hackerské útoky? Nepravděpodobné, dokud si nepřečtete tento článek.

Jak fungují tyto podvody s otravou vyhledávání pomocí umělé inteligence

Útočníci zadávají do vyhledávacích nástrojů s umělou inteligencí přesvědčivé, ale falešné informace, které vypadají jako záznamy o zákaznické podpoře bank, leteckých společností a technologických společností. Když se uživatel zeptá asistenta s umělou inteligencí na číslo podpory, model navrhne falešné číslo. Odtud pak začínají podvody:

Falešní agenti zkuste získat platební informace.
Nástroje pro vzdálený přístup jsou tlačeni k „opravě“ falešných problémů.
Podvody s vrácením peněz obelstít uživatele, aby jim poslali peníze zpět.
Pokusy o převzetí účtu začnou v okamžiku, kdy přijmou hovor.

Uživatel se nikdy nedostane na phishingovou stránku. Podvod začíná přímo v poli pro odpovědi umělé inteligence.

Proč je umělou inteligenci snazší otrávit

Existují dva hlavní důvody, proč je vyhledávání s umělou inteligencí snazší otrávit než tradiční vyhledávací weby, jako je Google nebo Bing. Zaprvé, vyhledávací roboti s umělou inteligencí neověřují telefonní čísla, firemní záznamy ani adresy URL oproti autoritativním zdrojům stejným způsobem jako tradiční vyhledávače. Útočníci toho zneužívají k:

Publikování falešných, ale legitimně vypadajících obchodních dat.
Vytváření webových stránek s optimalizací pro vyhledávače, které scrapingují (modely).
Hromadné odesílání falešných kontaktů na podporu v menších adresářích.
Generování celých podvodných ekosystémů pomocí nástrojů umělé inteligence.

Za druhé, existuje samoposilující cyklus, kdy uživatelé, kteří obdrží nesprávné informace, je nevědomky znovu publikují na svých webových stránkách, kde další vyhledávací roboti s umělou inteligencí falešná data spotřebovávají a zahrnují do výsledků vyhledávání, čímž falešné informace nadále udržují. Tyto modely umělé inteligence pak falešné informace opakují ve velkém měřítku, čímž falešným datům dodávají důvěryhodnost.

Kdo je nejvíce ohrožen

Starší dospělí, kteří se spoléhají na virtuální asistenty s umělou inteligencí
Každý, kdo používá umělou inteligenci k vyhledávání „telefonního čísla zákaznické podpory“
Uživatelé s využitím umělé inteligence vyhledávají uživatele, kteří se snaží kontaktovat letecké společnosti, doručovací společnosti, obchody s aplikacemi, banky nebo platformy předplatného.

Jinými slovy: obětí se může stát kdokoli, kdo používá vyhledávací nástroje s umělou inteligencí.

Varovné signály, že jste se dostali na linku podpory pro podvodníky

Pokud voláte na číslo podpory a narazíte na některou z těchto situací, okamžitě zavěste.

Agent požaduje platbu dárkovými kartami, bankovním převodem nebo kryptoměnou
Tlak na „okamžitou reakci“ nebo „váš účet bude uzavřen“
Žádost o vzdálený přístup k vašemu počítači kvůli „běžnému“ problému
Žádost o celé číslo kreditní karty, když voláte ohledně problému netýkajícího se fakturace
Zástupce podpory nemůže nebo se neobtěžuje ověřit základní informace o vašem účtu, což by udělal skutečný agent.

V těchto případech je rada rychlá a snadná. Zavěste a zavolejte zpět na správné číslo z oficiálních webových stránek.

Rady pro všechny uživatele vyhledávání s umělou inteligencí, které by měli dodržovat

Nikdy nevěřte číslu podpory z vyhledávání s umělou inteligencí, aniž byste si ho ověřili na oficiálních webových stránkách dodavatele. To zahrnuje i návštěvu webových stránek prostřednictvím odkazů ve výsledcích vyhledávání, protože podobné webové stránky se v těchto podvodných akcích objevují stále častěji!
Vyhněte se volání na čísla z náhodných blogů, PDF souborů, příspěvků na Redditu nebo fór.
Uložte si oficiální stránky podpory společností, na které se spoléháte.
umožnit MFA, takže i když selžete s přihlašovacími údaji, útočníci nemohou okamžitě proniknout do vašeho účtu.

Co by měly firmy dělat

Organizace nemohou zabránit podvodníkům v otravování systémů umělé inteligence, ale mohou své uživatele ztvrdit:

Zaregistrujte si svá oficiální čísla podpory v Google Business Profile a dalších adresářových službách, aby vás vaši zákazníci mohli kontaktovat.
Proškolte zaměstnance, aby si před kontaktováním dodavatelů ověřovali kanály podpory.
Zahrňte příklady „falešných čísel podpory“ do programů na zvyšování povědomí o phishingu a sociálním inženýrství.
Jasně a konzistentně zveřejňujte své oficiální kontakty na podporu.
Sledujte web a hledejte podvodné nabídky, překlepy na doménových jménech nebo webové stránky, které se zdají být podobné a zneužívají vaši značku.
Nářadí DMARC, rozšíření dkim, SPF ochrana vašich záznamů Mail eXchange (MX Records)

Závěrem

Útočníci jdou tam, kde jsou uživatelé. Během posledních 2 let se vyhledávání rozšířilo do oblasti vyhledávání s využitím umělé inteligence, kde jsou kontroly proti falešným informacím méně přísné a zdá se, že se rozšiřuje „otravování“ vyhledávání pomocí umělé inteligence. Vzhledem k tomu, že mnoho uživatelů neví, že umělé inteligenci nelze bezvýhradně důvěřovat, podvodníci zaměřují své úsilí na „otravování“ čísel podpory a šíření této informace prostřednictvím internetových vyhledávacích robotů s využitím umělé inteligence.

Naštěstí oprava není složitá: zpomalte, ověřte kontaktní informace prostřednictvím tradičních vyhledávačů a webových stránek dodavatelů a zacházejte s veškerým výstupem umělé inteligence s nulovou důvěryhodností, dokud není potvrzen.