Otrava umelou inteligenciou: Podvod s falošnou podporou – vyhľadávanie pomocou umelej inteligencie ako nový povrch útoku

16. decembra 2025 | Blog

Kyberzločinci vždy sledujú internetové pohľady. Nie doslova, ale obrazne. A dnešné pohľady sa menia. Zatiaľ čo vyhľadávanie Google stále dominuje, 20 – 26 % Američanov prešlo na nástroje umelej inteligencie, ako sú ChatGPT, Claude a Perplexity, na zhromažďovanie informácií , pričom toto číslo mesačne rastie. Podvodníci túto migráciu sledujú a presúvajú svoju hru z tradičného SEO otravovania vo výsledkoch vyhľadávania Google na oveľa zákernejšiu hrozbu: otravovanie umelou inteligenciou.

Podľa správ z konca rokov 2024 a 2025 teraz útočníci zamorujú vyhľadávacie nástroje s umelou inteligenciou falošnými zoznamami zákazníckej podpory, ktoré presmerovávajú obete na podvodné telefónne čísla, webové stránky a agentov vydávajúcich sa za legitímne spoločnosti. Spoločnosť Air Canada dostala príkaz zaplatiť zákazníkovi, ktorého uviedol do omylu chatbot leteckej spoločnosti.

Prečo tomu tak je?

Zatiaľ čo Vyhľadávanie Google vám umožňuje samostatne vyhodnotiť viacero zdrojov, chatboti s umelou inteligenciou vám dajú JEDNU spoľahlivú odpoveď . A tieto odpovede sú nesprávne v 2 až 35 % prípadov v závislosti od témy a modelu. Keď umelá inteligencia vymyslí falošné číslo zákazníckej podpory a niekto ho zverejní online, ďalšia umelá inteligencia, ktorá prehľadáva web, sa toto falošné číslo naučí a zopakuje ho s ešte väčšou istotou. Tým sa informácie o otrave prenášajú na iných chatbotov, čo vedie k tomu, že sa do vyhľadávacích nástrojov umelej inteligencie, na ktoré ľudia migrujú, dostávajú ďalšie nepravdivé informácie. Mnohí používatelia vyhľadávania s umelou inteligenciou si uvedomujú, že tieto systémy halucinujú, ale uvedomujú si, že konzumujú nepravdivé údaje, ktoré vkladajú páchatelia, ktorí vykonávajú prepracované hackerské schémy? Nepravdepodobné, kým si neprečítate tento článok.

Ako fungujú tieto podvody s otravou vyhľadávania pomocou umelej inteligencie

Útočníci zadávajú do vyhľadávacích nástrojov s umelou inteligenciou presvedčivé, ale falošné informácie, ktoré vyzerajú ako záznamy o zákazníckej podpore bánk, leteckých spoločností a technologických spoločností. Keď používateľ požiada asistenta s umelou inteligenciou o číslo podpory, model navrhne falošné číslo. Odtiaľ začínajú podvody:

Falošní agenti skúste získať informácie o platbe.
Nástroje pre vzdialený prístup sú nútení „riešiť“ falošné problémy.
Podvody s vrátením peňazí oklamať používateľov, aby poslali peniaze späť.
Pokusy o prevzatie účtu začnú v momente, keď prijmú hovor.

Používateľ sa nikdy nedostane na phishingovú stránku. Podvod začína priamo v poli odpovede umelej inteligencie.

Prečo je umelá inteligencia ľahšie otráviteľná

Existujú dva hlavné dôvody, prečo je vyhľadávanie s umelou inteligenciou ľahšie napadnuteľné ako tradičné vyhľadávacie stránky ako Google alebo Bing. Po prvé, vyhľadávacie roboty s umelou inteligenciou neoverujú telefónne čísla, firemné záznamy ani adresy URL oproti autoritatívnym zdrojom rovnakým spôsobom ako tradičné vyhľadávače. Útočníci to zneužívajú na:

Zverejňovanie falošných, ale legitímne vyzerajúcich obchodných údajov.
Vytváranie webových stránok s optimalizáciou pre vyhľadávače, ktoré scrapingujú modely.
Hromadné odosielanie falošných kontaktov na podporu v menších adresároch.
Generovanie celých podvodných ekosystémov pomocou nástrojov umelej inteligencie.

Po druhé, existuje samoposilňujúci sa cyklus, v ktorom používatelia, ktorí dostanú nesprávne informácie, nevedomky tieto údaje znova publikujú na svojich webových stránkach, kde ďalšie vyhľadávacie roboty s umelou inteligenciou konzumujú a zahŕňajú falošné údaje do svojich výsledkov vyhľadávania, čím falošné informácie naďalej zostávajú falošné. Tieto modely umelej inteligencie potom opakujú nepravdivé informácie vo veľkom meradle, čím dodávajú falošným údajom dôveryhodnosť.

Kto je najviac ohrozený

Starší dospelí, ktorí sa spoliehajú na virtuálnych asistentov s umelou inteligenciou
Každý, kto používa umelú inteligenciu na vyhľadávanie „telefónneho čísla zákazníckej podpory“
Používatelia vyhľadávania pomocou umelej inteligencie, ktorí sa snažia kontaktovať letecké spoločnosti, doručovacie spoločnosti, obchody s aplikáciami, banky alebo platformy predplatného

Inými slovami: obeťou sa môže stať každý, kto používa vyhľadávacie nástroje s umelou inteligenciou

Varovné signály, že ste sa dostali na linku podpory pre podvodníkov

Ak voláte na číslo podpory a narazíte na niektorý z týchto problémov, okamžite zložte.

Agent žiada o platbu prostredníctvom darčekových kariet, bankového prevodu alebo kryptomeny
Tlak na „konanie okamžite“ alebo „váš účet bude zrušený“
Žiadosť o vzdialený prístup k vášmu počítaču kvôli „bežnému“ problému
Žiadosť o celé číslo kreditnej karty, keď voláte ohľadom problému, ktorý sa netýka fakturácie
Zástupca podpory nemôže alebo sa neobťažuje overiť základné informácie o vašom účte, čo by urobil skutočný agent.

V týchto prípadoch je rada rýchla a jednoduchá. Zaveste a zavolajte späť na správne číslo z oficiálnej webovej stránky.

Rady pre všetkých používateľov vyhľadávania s umelou inteligenciou, ktoré by mali dodržiavať

Nikdy neverte číslu podpory z vyhľadávania s umelou inteligenciou bez toho, aby ste si ho overili na oficiálnej webovej stránke dodávateľa. To zahŕňa aj návštevu webovej stránky prostredníctvom odkazov vo výsledkoch vyhľadávania, pretože podobné webové stránky sa v týchto podvodných aplikáciách objavujú čoraz častejšie!
Vyhnite sa volaniu na čísla z náhodných blogov, PDF súborov, príspevkov na Reddite alebo fór.
Uložte si oficiálne stránky podpory spoločností, na ktoré sa spoliehate.
Umožniť MFA, takže aj keď urobíte chybu s prihlasovacími údajmi, útočníci nemôžu okamžite preniknúť do vášho účtu.

Čo by mali spoločnosti robiť

Organizácie nedokážu zabrániť podvodníkom v otravovaní systémov umelej inteligencie, ale môžu svojich používateľov otupiť:

Zaregistrujte si svoje oficiálne čísla podpory v Google Business Profile a ďalších adresárových službách, aby vás vaši zákazníci mohli kontaktovať.
Pred kontaktovaním dodávateľov zaškoľte zamestnancov, aby overovali kanály podpory.
Zahrňte príklady „falošných čísel podpory“ do programov na zvyšovanie povedomia o phishingu a sociálnom inžinierstve.
Jasne a konzistentne zverejňujte svoje oficiálne kontakty na podporu.
Monitorujte web a hľadajte podvodné záznamy, preklepy v názvoch domén alebo webové stránky, ktoré sa podobajú vašej značke a zneužívajú ju.
Realizovať dMarc, DKIM, SPF ochrana vašich záznamov Mail eXchange (MX záznamy)

Zrátané podčiarknuté

Útočníci idú tam, kde sú používatelia. Za posledné 2 roky sa vyhľadávanie rozšírilo na vyhľadávanie s využitím umelej inteligencie, kde sú kontroly týkajúce sa nepravdivých informácií menej prísne a zdá sa, že sa rozširuje otrava vyhľadávania pomocou umelej inteligencie. Keďže toľko používateľov nevie, že umelej inteligencii nemožno bezvýhradne dôverovať, podvodníci zameriavajú svoje úsilie na otravovanie čísel podpory a šíria túto skutočnosť prostredníctvom internetových robotov pre vyhľadávanie s využitím umelej inteligencie.

Našťastie, oprava nie je zložitá: spomaľte, overte kontaktné informácie prostredníctvom tradičných vyhľadávačov a webových stránok dodávateľov a so všetkými výstupmi umelej inteligencie zaobchádzajte s nulovou dôverou, kým nie sú potvrdené.

Ďalšie zdroje

Zabezpečte si svoje podnikanie s CyberHoot ešte dnes!

Prihlásiť sa teraz!

Najnovšie Blogy

Zostaňte v obraze s najnovšími informáciami bezpečnostné informácie

Objavte a zdieľajte najnovšie trendy, tipy a osvedčené postupy v oblasti kybernetickej bezpečnosti – spolu s novými hrozbami, na ktoré si treba dať pozor.