Prompt injection er en klasse af angreb, hvor en ondsindet aktør fremstiller input designet til at manipulere en stor sprogmodel, LLM, til at ignorere dens oprindelige instruktioner, omgå sikkerhedsforanstaltninger eller udføre handlinger, den ikke burde. Målet er ofte at lække følsomme data , afsløre interne systemprompter , udføre utilsigtede handlinger eller misbruge forbundne værktøjer og datakilder.
Kort sagt hacker angriberen ikke selve systemet, de narrer AI'en gennem sprog.
Prompt injection udnytter det faktum, at LLM'er prioriterer og fortolker tekstinstruktioner probabilistisk. Hvis brugerinput ikke er korrekt begrænset eller isoleret, kan en angriber inkludere instruktioner såsom:
Dette bliver især farligt, når LLM'er er:
For små og mellemstore virksomheder undervurderes risikoen ofte.
Nøglevirkninger omfatter:
Eksempel:
En SMB bruger en AI-chatbot, der er forbundet med intern dokumentation. En angriber stiller smart formulerede spørgsmål, der får botten til at opsummere eller afsløre følsomme interne processer.
For Managed Service Providers forstærkes risikoen.
MSP'er typisk:
De vigtigste risici omfatter:
Eksempel:
En MSP implementerer en AI-drevet helpdesk-assistent, der er forbundet med tickethistorik. En prompt injection får assistenten til at afsløre tickets fra andre klienter.
Prompt injektion er ikke teoretisk. Det udnyttes allerede.
For SMB'er og MSP'er betyder det:
Yderligere læsning:
CyberHoot har også nogle andre ressourcer til rådighed. Nedenfor finder du links til alle vores ressourcer, du er velkommen til at tjekke dem ud, når du har lyst:
Opdag og del de seneste cybersikkerhedstrends, tips og bedste praksisser – sammen med nye trusler, du skal være opmærksom på.
Forestil dig selv på motorvejen, hvor du kører cirka 20 minutter over grænsen sammen med resten af trafikken. Foran dig, brems...
Læs mere
Hvad sker der Torsdag den 12. november 2026, omkring klokken 11 Eastern Time, stoppede Microsoft Outlook med at virke...
Læs mere
Forfatter: Katie Boquetti | Leder: Craig Taylor Leder af Craig Taylor: “Magt har en tendens til at korrumpere,...
Læs mereFå et skarpere blik på menneskelige risici med den positive tilgang, der slår traditionel phishing-testning.
