प्रॉम्प्ट इंजेक्शन एक प्रकार का हमला है जिसमें दुर्भावनापूर्ण हमलावर ऐसे इनपुट तैयार करते हैं जो एक बड़े भाषा मॉडल (एलएलएम) को उसके मूल निर्देशों को अनदेखा करने, सुरक्षा उपायों को दरकिनार करने या ऐसे कार्य करने के लिए प्रेरित करते हैं जो उसे नहीं करने चाहिए। इसका लक्ष्य अक्सर संवेदनशील डेटा लीक करना , आंतरिक सिस्टम प्रॉम्प्ट को उजागर करना , अनपेक्षित क्रियाएं करना या जुड़े हुए उपकरणों और डेटा स्रोतों का दुरुपयोग करना होता है ।
सरल शब्दों में कहें तो, हमलावर सिस्टम को सीधे हैक नहीं कर रहा है, बल्कि भाषा के माध्यम से एआई को धोखा दे रहा है ।
प्रॉम्प्ट इंजेक्शन इस तथ्य का फायदा उठाता है कि एलएलएम पाठ निर्देशों को संभाव्यता के आधार पर प्राथमिकता देता है और उनकी व्याख्या करता है। यदि उपयोगकर्ता इनपुट को ठीक से नियंत्रित या अलग नहीं किया जाता है, तो हमलावर निम्नलिखित जैसे निर्देश शामिल कर सकता है:
यह स्थिति तब और भी खतरनाक हो जाती है जब एलएलएम निम्नलिखित स्थितियों में हों:
छोटे और मध्यम आकार के व्यवसायों के लिए , जोखिम को अक्सर कम करके आंका जाता है।
प्रमुख प्रभावों में शामिल हैं:
उदाहरण:
एक लघु एवं मध्यम आकार का व्यवसाय (एसएमबी) आंतरिक दस्तावेज़ों से जुड़े एक एआई चैटबॉट का उपयोग करता है। एक हमलावर चालाकी से तैयार किए गए प्रश्न पूछता है, जिसके कारण बॉट संवेदनशील आंतरिक प्रक्रियाओं का सारांश प्रस्तुत करता है या उन्हें उजागर करता है।
मैनेज्ड सर्विस प्रोवाइडर्स के लिए , जोखिम और भी बढ़ जाता है।
एमएसपी आमतौर पर:
प्रमुख जोखिमों में शामिल हैं:
उदाहरण:
एक मल्टी-सर्विस प्रोवाइडर (MSP) टिकट इतिहास से जुड़े AI-संचालित हेल्पडेस्क असिस्टेंट को तैनात करता है। एक प्रॉम्प्ट इंजेक्शन के कारण असिस्टेंट अन्य ग्राहकों के टिकटों का खुलासा करता है।
प्रॉम्प्ट इंजेक्शन कोई सैद्धांतिक बात नहीं है। इसका पहले से ही उपयोग किया जा रहा है।
एसएमबी और एमएसपी के लिए इसका मतलब है:
अतिरिक्त पढ़ना:
साइबरहूट के पास आपके उपयोग के लिए कुछ अन्य संसाधन भी उपलब्ध हैं। नीचे हमारे सभी संसाधनों के लिंक दिए गए हैं, जब चाहें इन्हें देख सकते हैं:
नवीनतम साइबर सुरक्षा रुझानों, सुझावों और सर्वोत्तम प्रथाओं के बारे में जानें और उन्हें साझा करें - साथ ही नए खतरों के बारे में भी जानें।
कल्पना कीजिए कि आप हाईवे पर हैं और बाकी वाहनों के साथ तय सीमा से करीब 20 की रफ्तार से गाड़ी चला रहे हैं। आगे अचानक ब्रेक लगाइए...
अधिक पढ़ें
गुरुवार, 12 नवंबर, 2026 को पूर्वी समयानुसार सुबह लगभग 11 बजे, माइक्रोसॉफ्ट आउटलुक ने काम करना बंद कर दिया...
अधिक पढ़ें
लेखिका: केटी बोक्वेटी | संपादकीय: क्रेग टेलर | क्रेग टेलर का संपादकीय: “सत्ता भ्रष्ट करती है,...”
अधिक पढ़ेंपारंपरिक फिश परीक्षण को मात देने वाले सकारात्मक दृष्टिकोण के साथ मानवीय जोखिमों पर अधिक पैनी नजर रखें।
