Prompt-Injection ist eine Angriffsklasse, bei der Angreifer Eingaben manipulieren, um ein großes Sprachmodell (LLM) dazu zu bringen, seine ursprünglichen Anweisungen zu ignorieren, Sicherheitsvorkehrungen zu umgehen oder unerwünschte Aktionen auszuführen. Ziel ist es häufig, sensible Daten zu stehlen , interne Systemeingabeaufforderungen offenzulegen , unbeabsichtigte Aktionen auszuführen oder verbundene Tools und Datenquellen zu missbrauchen.
Vereinfacht ausgedrückt: Der Angreifer hackt nicht das System selbst, sondern trickst die KI mithilfe der Sprache aus.
Prompt Injection nutzt die Tatsache aus, dass LLMs Textanweisungen probabilistisch priorisieren und interpretieren. Wenn Benutzereingaben nicht ausreichend eingeschränkt oder isoliert werden, kann ein Angreifer Anweisungen wie die folgenden einfügen:
Dies wird besonders gefährlich, wenn LLMs folgende sind:
Für kleine und mittlere Unternehmen wird das Risiko oft unterschätzt.
Zu den wichtigsten Auswirkungen gehören:
Ejemplo:
Ein kleines oder mittelständisches Unternehmen nutzt einen KI-Chatbot, der mit der internen Dokumentation verbunden ist. Ein Angreifer stellt geschickt formulierte Fragen, die den Bot dazu veranlassen, sensible interne Prozesse zusammenzufassen oder offenzulegen.
Für Managed Service Provider ist das Risiko noch größer.
MSPs typischerweise:
Zu den Hauptrisiken zählen:
Ejemplo:
Ein Managed Service Provider (MSP) setzt einen KI-gestützten Helpdesk-Assistenten ein, der mit Ticketverläufen verknüpft ist. Durch eine Eingabeaufforderung zeigt der Assistent Tickets anderer Kunden an.
Die sofortige Injektion ist nicht theoretisch. Sie wird bereits ausgenutzt.
Für KMUs und Managed Service Provider (MSPs) bedeutet dies:
Weitere Leseempfehlungen:
CyberHoot stellt Ihnen weitere Ressourcen zur Verfügung. Nachfolgend finden Sie Links zu allen unseren Ressourcen. Schauen Sie sich diese jederzeit gerne an:
Entdecken und teilen Sie die neuesten Trends, Tipps und Best Practices zur Cybersicherheit – sowie neue Bedrohungen, vor denen Sie sich in Acht nehmen sollten.
Stellen Sie sich vor, Sie fahren auf der Autobahn, etwa 20 km/h über dem Tempolimit, wie der übrige Verkehr. Vor Ihnen bremsen Sie...
Weiterlesen
Was geschah am Donnerstag, dem 12. November 2026, gegen 11 Uhr Ostküstenzeit? Microsoft Outlook funktionierte nicht mehr...
Weiterlesen
Autorin: Katie Boquetti | Leitartikel: Craig Taylor Leitartikel von Craig Taylor: „Macht korrumpiert oft …“
WeiterlesenVerhelfen Sie Ihren Mitarbeitern zu einem geschärften Blick – mit einem positiven Ansatz, der herkömmliche Phishing-Tests übertrifft.
