“`html

मशीन लर्निंग मॉडल प्रॉम्प्ट इंजेक्शन हमलों से कृत्रिम बुद्धिमत्ता की बेहतर सुरक्षा करते हैं

आधुनिक कृत्रिम बुद्धिमत्ता, विशेष रूप से बड़े भाषा मॉडल, प्रॉम्प्ट इंजेक्शन हमलों के प्रति अधिक संवेदनशील हो रहे हैं। ये हमले दुर्भावनापूर्ण अभिनेताओं को मॉडल के उत्तरों को हेरफेर करने की अनुमति देते हैं, सुरक्षा उपायों को बायपास करने और उनके निर्माताओं द्वारा अपेक्षित नहीं किए गए व्यवहारों को प्राप्त करने के लिए। ऐसा हेरफेर डेटा लीक, पहचान की चोरी या अन्य गंभीर परिणामों का कारण बन सकता है, चाहे वह क्वेरी में सीधे इंजेक्शन के माध्यम से हो या बाहरी स्रोतों जैसे वेबसाइटों या फाइलों के शोषण के माध्यम से।

इस खतरे का मुकाबला करने के लिए, इन हेरफेर के प्रयासों का पता लगाने के लिए मशीन लर्निंग के तरीकों का मूल्यांकन किया गया है। चार मुख्य दृष्टिकोणों की तुलना की गई है: पाठों के वेक्टर प्रतिनिधित्व का उपयोग करने वाले पारंपरिक वर्गीकार, कार्य के लिए समायोजित ट्रांसफॉर्मर मॉडल, प्रॉम्प्ट इंजेक्शन का पता लगाने में विशेषज्ञ मॉडल, और अंत में वर्गीकार के रूप में उपयोग किए जाने वाले बड़े भाषा मॉडल।

पारंपरिक वर्गीकार, जैसे रैंडम फॉरेस्ट या मल्टी-लेयर न्यूरल नेटवर्क, अच्छी सटीकता प्रदान करते हैं और साथ ही कम कंप्यूटिंग संसाधनों की आवश्यकता होती है। वे उल्लेखनीय प्रदर्शन हासिल करते हैं, कभी-कभी हानिकारक प्रॉम्प्ट का पता लगाने के लिए 96% से अधिक स्कोर हासिल करते हैं। उनकी सरलता उन्हें सीमित संसाधनों वाले वातावरण के लिए उपयुक्त बनाती है।

समायोजित ट्रांसफॉर्मर मॉडल, जैसे DistilBERT, RoBERTa या DeBERTa, 99.6% तक की सटीकता के साथ हमलों का पता लगाने की अपनी क्षमता के लिए उभरते हैं। ये अधिक जटिल मॉडल पाठों के अर्थ का गहन विश्लेषण करते हैं और हेरफेर के प्रयासों की पहचान उच्च विश्वसनीयता के साथ करते हैं। उनका मुख्य नुकसान उनके उच्च कंप्यूटेशनल लागत में है, जो त्वरित प्रतिक्रियाओं की आवश्यकता वाले सिस्टम में उनके तैनाती को सीमित कर सकता है।

विशेषज्ञ मॉडल, जो विशेष रूप से प्रॉम्प्ट इंजेक्शन का पता लगाने के लिए डिज़ाइन किए गए हैं, मिश्रित परिणाम दिखाते हैं। हालांकि वे इस कार्य के लिए अनुकूलित हैं, उनका पता लगाने की दर अक्सर निम्न होती है, कभी-कभी रिकॉल स्कोर 25% से भी कम होते हैं। इसका मतलब है कि वे बड़ी संख्या में हमलों को छोड़ देते हैं, जिससे उनकी व्यावहारिक उपयोगिता कम हो जाती है।

अंत में, सामान्य बड़े भाषा मॉडल, जैसे gpt-5-nano, इन हमलों का पता लगाने में भी उपयोगी हो सकते हैं। 84% की सटीकता और 71% रिकॉल के साथ, वे प्रदर्शन और बहुमुखी प्रतिभा के बीच एक दिलचस्प संतुलन प्रदान करते हैं। उनकी ताकत विभिन्न प्रकार के अनुरोधों के अनुकूल होने की क्षमता में निहित है, बिना किसी विशेष प्रशिक्षण की आवश्यकता के।

इस विश्लेषण से पता चलता है कि कोई भी विधि सभी संदर्भों में अन्य सभी विधियों से बेहतर नहीं है। पारंपरिक वर्गीकार हल्के सिस्टम के लिए उपयुक्त हैं, जबकि समायोजित ट्रांसफॉर्मर मॉडल वहां उत्कृष्ट हैं जहां सटीकता गति पर प्राथमिकता रखती है। विशेषज्ञ मॉडल, हालांकि वादे करने वाले हैं, अन्य दृष्टिकोणों से मुकाबला करने के लिए अभी और प्रगति करनी होगी। बड़े भाषा मॉडल एक लचीली समाधान पेश करते हैं, लेकिन उनकी तैनाती तकनीकी बाधाओं और विशिष्ट आवश्यकताओं पर निर्भर करती है।

“`

दस्तावेज़ी आधार

संदर्भ रिपोर्ट

DOI: https://doi.org/10.1007/s10207-026-01264-8

शीर्षक: Comparative evaluation of machine learning methods for protecting LLMs from prompt injection attacks

जर्नल: International Journal of Information Security

प्रकाशक: Springer Science and Business Media LLC

लेखक: Nazarii Dzhaliuk; Dmytro Sabodashko; Volodymyr Khoma; Yuriy Khoma; Viktor Kolchenko; Michal Podpora