Een 'adversarial example' of 'adversarial machine learning' (adversarial ML) verwijst naar technieken waarbij aanvallers opzettelijk invoergegevens manipuleren om een AI- of machine learning-model te misleiden en tot onjuiste beslissingen te brengen, vaak zonder dat de manipulatie voor mensen opvalt.
Een voorbeeld van een misleidende situatie is de daadwerkelijke invoer die subtiel is aangepast. Een afbeelding die er voor een persoon uitziet als een stopbord, kan bijvoorbeeld op minuscule, bijna onzichtbare manieren worden gewijzigd, zodat een AI-systeem deze verkeerd classificeert als iets totaal anders.
Simpel gezegd maakt adversarial ML gebruik van het feit dat AI-systemen patronen anders "zien" dan mensen, en dat die patronen gemanipuleerd kunnen worden.
Aanvallers kunnen:
Voor kleine en middelgrote bedrijven (mkb's) en managed service providers (MSP's) wordt dit steeds relevanter, omdat AI nu in veel beveiligingstools is geïntegreerd.
Vijandige invoer kan deze verdedigingsmechanismen omzeilen zonder alarm te slaan.
Een AI-e-mailfilter is getraind om phishingmails te detecteren op basis van patronen.
Een aanvaller:
Resultaat:
Vijandige machine learning (ML) verbreekt AI-systemen niet direct, maar manipuleert ze stilletjes. Voor mkb's en MSP's is het risico subtiel maar ernstig: aanvallers kunnen "slimme" verdedigingsmechanismen omzeilen zonder alarm te slaan, waardoor gelaagde beveiliging en gebruikersbewustzijn belangrijker zijn dan ooit. Dit geldt met name voor de modellen die ze gebruiken of ondersteunen, en voor de zorgvuldige omgang met klantgegevens.
Extra Reading:
CyberHoot heeft nog een aantal andere bronnen beschikbaar. Hieronder vind je links naar al onze bronnen, je kunt ze gerust bekijken wanneer je maar wilt:
Ontdek en deel de nieuwste trends, tips en best practices op het gebied van cyberbeveiliging, maar ook nieuwe bedreigingen waar u op moet letten.
Wat gebeurt er? Op donderdag 12 november 2026, rond 11 uur 's ochtends (Eastern Time), is Microsoft Outlook gestopt met werken...
Lees meer
Auteur: Katie Boquetti | Redactie: Craig Taylor Redactie door Craig Taylor: “Macht heeft de neiging te corrumperen,...
Lees meer
Auteur: Katie Boquetti | Redactie: Craig Taylor Redactie: Al jaren trainen we...
Lees meerKrijg een scherper beeld van menselijke risico's met een positieve aanpak die traditionele phishingtests overtreft.
