Cybercriminelen volgen altijd de internetgebruikers. Niet letterlijk, maar figuurlijk. En de gebruikers verschuiven tegenwoordig. Hoewel Google Search nog steeds dominant is, gebruikt 20-26% van de Amerikanen AI-tools zoals ChatGPT, Claude en Perplexity voor het verzamelen van informatie , een percentage dat maandelijks groeit. Oplichters volgen deze verschuiving en verplaatsen hun strategie van traditionele SEO-manipulatie in Google-zoekresultaten naar een veel verraderlijkere dreiging: AI-manipulatie.
Volgens berichten uit eind 2024 en 2025 vergiftigen cybercriminelen nu AI-zoektools met nep-klantenservicelijsten die slachtoffers doorverwijzen naar frauduleuze telefoonnummers, websites en medewerkers die zich voordoen als legitieme bedrijven. Air Canada werd veroordeeld tot het betalen van een schadevergoeding aan een klant die was misleid door de chatbot van de luchtvaartmaatschappij.
Hoe komt dat?
Terwijl je bij Google Search zelf meerdere bronnen kunt vergelijken, geven AI-chatbots je ÉÉN stellig antwoord . En die antwoorden zijn in 2 tot 35% van de gevallen onjuist, afhankelijk van het onderwerp en het model. Wanneer een AI een nep-klantenservicenummer verzint en iemand dit online publiceert, leert de volgende AI die het web afspeurt dit valse nummer en herhaalt het met nog meer zekerheid. Dit verspreidt de misleidende informatie naar andere chatbots, wat leidt tot nog meer valse informatie die terechtkomt in de AI-zoektools waar mensen juist naar overstappen. Veel gebruikers van AI-zoekmachines weten dat deze systemen hallucineren, maar zijn ze zich er ook van bewust dat ze valse gegevens consumeren die zijn geplaatst door daders die geavanceerde hackmethoden toepassen? Waarschijnlijk niet, totdat je dit artikel leest.
Aanvallers voeden AI-zoekmachines met overtuigende, maar valse informatie die lijkt op klantenservice-nummers van banken, luchtvaartmaatschappijen en technologiebedrijven. Wanneer een gebruiker de AI-assistent om een ondersteuningsnummer vraagt, stelt het model een nepnummer voor. Vanaf dat moment beginnen de oplichtingspraktijken:
De gebruiker komt nooit op een phishingpagina terecht. De oplichting begint direct in het antwoordvak van de AI.
Er zijn twee belangrijke redenen waarom AI-zoekmachines gemakkelijker te manipuleren zijn dan traditionele zoekmachines zoals Google of Bing. Ten eerste controleren AI-zoekbots telefoonnummers, bedrijfsvermeldingen of URL's niet aan de hand van gezaghebbende bronnen, zoals traditionele zoekmachines dat wel doen. Aanvallers maken daar misbruik van door:
Ten tweede ontstaat er een zichzelf versterkende cyclus waarbij gebruikers die onjuiste informatie ontvangen, deze gegevens onbewust opnieuw publiceren op hun websites. Daar nemen AI-zoekmachines de valse gegevens vervolgens over en verwerken ze in hun zoekresultaten, waardoor de onjuiste informatie zich verder verspreidt. Deze AI-modellen herhalen de valse informatie vervolgens op grote schaal, waardoor de valse gegevens geloofwaardigheid krijgen.
Met andere woorden: iedereen die AI-zoektools gebruikt, kan slachtoffer worden.
Als u een van deze meldingen krijgt wanneer u de klantenservice belt, hang dan onmiddellijk op.
In deze gevallen is het advies snel en eenvoudig. Hang op en bel het juiste nummer terug van de officiële website.
Organisaties kunnen niet voorkomen dat oplichters AI-systemen misbruiken, maar ze kunnen hun gebruikers wel beter beschermen:
Aanvallers gaan naar de plekken waar gebruikers zich bevinden. De afgelopen twee jaar is zoeken uitgebreid naar AI-gestuurd zoeken, waar de controle op valse informatie minder streng is en AI-zoekmachinevergiftiging zich lijkt uit te breiden. Omdat veel gebruikers niet weten dat AI niet per definitie te vertrouwen is, richten oplichters zich op het vergiftigen van hulplijnen en het verspreiden van deze informatie via AI-zoekbots op internet.
Gelukkig is de oplossing niet ingewikkeld: doe het rustig aan, controleer contactgegevens via traditionele zoekmachines en de website van de leverancier, en ga niet klakkeloos om met AI-uitvoer totdat deze is bevestigd.
Ontdek en deel de nieuwste trends, tips en best practices op het gebied van cyberbeveiliging, maar ook nieuwe bedreigingen waar u op moet letten.
Auteur: Katie Boquetti | Redactie: Craig Taylor Redactie door Craig Taylor: “Macht heeft de neiging te corrumperen,...
Lees meer
Auteur: Katie Boquetti | Redactie: Craig Taylor Redactie: Al jaren trainen we...
Lees meer
De meeste phishingtests liegen tegen je medewerkers. Deze test zegt eerst hallo! HootPhish vertelt mensen direct: dit is...
Lees meerKrijg een scherper beeld van menselijke risico's met een positieve aanpak die traditionele phishingtests overtreft.
