माइक्रोसॉफ्ट के शोधकर्ताओं ने एंथ्रोपिक के क्लाउड कोड गिटहब एक्शन में एक अब-ठीक की गई भेद्यता का खुलासा किया है, जिससे हमलावर दुर्भावनापूर्ण गिटहब सामग्री के माध्यम से एआई एजेंट में हेरफेर करके सॉफ्टवेयर डेवलपमेंट पाइपलाइन में संग्रहीत क्रेडेंशियल्स को उजागर कर सकते थे।

शुक्रवार को एक ब्लॉग पोस्ट में, माइक्रोसॉफ्ट ने चेतावनी दी कि सीआई/सीडी वर्कफ़्लो के भीतर चलने वाले एआई कोडिंग एजेंट नए सुरक्षा जोखिम पैदा कर सकते हैं क्योंकि उन वातावरणों में अक्सर एपीआई कुंजियों, क्लाउड क्रेडेंशियल्स और अन्य संवेदनशील जानकारी तक पहुंच होती है।

माइक्रोसॉफ्ट ने लिखा, "हमने यह शोध कई विक्रेताओं के बीच एआई-सहायता प्राप्त गिटहब वर्कफ़्लो का उपयोग करके सार्वजनिक रिपॉजिटरी में प्रॉम्प्ट इंजेक्शन प्रयासों को देखने के बाद शुरू किया, जहां हमलावर-नियंत्रित मुद्दा या [पुल अनुरोध], सामग्री को एआई एजेंट द्वारा संसाधित किया जाता है और इसके उपकरण के उपयोग को प्रभावित कर सकता है।"

गिटहब पर, एक पुल अनुरोध डेवलपर्स को कोड रिपॉजिटरी में बदलाव प्रस्तावित करने और उन बदलावों को अनुमोदित और मर्ज करने से पहले उनकी समीक्षा करने की अनुमति देता है।

यह रिपोर्ट ऐसे समय में आई है जब प्रॉम्प्ट इंजेक्शन हमले एआई एजेंटों के सामने आने वाले सबसे बड़े सुरक्षा खतरों में से एक के रूप में उभरे हैं। एक प्रॉम्प्ट इंजेक्शन हमले में, एक हमलावर ईमेल, दस्तावेज़, वेबसाइट या कोड टिप्पणियों जैसी सामग्री में निर्देश छिपाता है, जिससे एक एआई सिस्टम उपयोगकर्ता के बजाय उन निर्देशों का पालन करता है।

अक्टूबर में लॉन्च किया गया, क्लाउड कोड सॉफ्टवेयर डेवलपमेंट कार्यों के लिए एंथ्रोपिक का एआई कोडिंग एजेंट है। मार्च में एंथ्रोपिक द्वारा गलती से अपनी 500,000 से अधिक लाइनों का स्रोत कोड लीक करने के बाद इस उपकरण की जांच की गई, जिससे इसकी आंतरिक वास्तुकला का विवरण सामने आया और शोधकर्ताओं और डेवलपर्स द्वारा व्यापक विश्लेषण को बढ़ावा मिला।

माइक्रोसॉफ्ट के अनुसार, हमलावर गिटहब मुद्दों, पुल अनुरोधों या टिप्पणियों में छिपे प्रॉम्प्ट इंजेक्शन हमलों का उपयोग क्लाउड कोड को संवेदनशील क्रेडेंशियल्स वाली फाइलों तक पहुंचने के लिए हेरफेर करने के लिए कर सकते हैं।

भेद्यता का परीक्षण करने के लिए, माइक्रोसॉफ्ट ने एक गिटहब वर्कफ़्लो बनाया और अपने नियंत्रित डोमेन पर होस्ट की गई सामग्री के पीछे दुर्भावनापूर्ण निर्देशों को छिपाया, जिससे शोधकर्ताओं को क्लाउड की सुरक्षा सुरक्षा को बायपास करने की अनुमति मिली। प्रॉम्प्ट इंजेक्शन हमले ने क्लाउड को संवेदनशील क्रेडेंशियल्स पढ़ने और क्लाउड के सुरक्षा उपायों और गिटहब के गुप्त-स्कैनिंग उपकरणों दोनों से बचने के लिए उन्हें बदलने के लिए धोखा दिया। माइक्रोसॉफ्ट ने कहा कि एक हमलावर तब क्रेडेंशियल को फिर से बना सकता है और इसे इश्यू टिप्पणियों, वर्कफ़्लो लॉग, वेब अनुरोधों या शेल कमांड के माध्यम से निकाल सकता है।

फर्म ने कहा, "सॉनेट के इनकार सुरक्षा तंत्रों को बायपास करने के लिए, हमने अपने नियंत्रित डोमेन से एक प्रतिक्रिया के पीछे शेल पेलोड को अस्पष्ट किया। हमने यह भी सुनिश्चित करने के लिए 'राइट' अनुमतियों के बिना उपयोगकर्ताओं द्वारा वर्कफ़्लो को ट्रिगर करने में सक्षम किया कि हमारे परीक्षणों के दौरान एंथ्रोपिक के पर्यावरण चर स्क्रब शमन सक्रिय थे।"

माइक्रोसॉफ्ट द्वारा 29 अप्रैल को हैकरवन के माध्यम से भेद्यता का खुलासा करने के बाद एंथ्रोपिक ने 5 मई को क्लाउड कोड संस्करण 2.1.128 के साथ इस दोष को ठीक कर दिया।

अंतर्निहित सुरक्षा नियंत्रणों की कई परतों के बावजूद, माइक्रोसॉफ्ट ने पाया कि एक दृढ़ हमलावर संभावित रूप से एक एआई एजेंट को संवेदनशील जानकारी उजागर करने के लिए हेरफेर कर सकता है।

"हम एक ऐसे युग में प्रवेश कर रहे हैं जहां प्राकृतिक भाषा निष्पादन योग्य कोड है, और गिटहब मुद्दों जैसे अविश्वसनीय इनपुट को डिफ़ॉल्ट रूप से शत्रुतापूर्ण माना जाना चाहिए," इसमें कहा गया है। "उत्पादन क्रेडेंशियल्स के साथ जाने के लिए एक अकेला, सावधानीपूर्वक तैयार की गई टिप्पणी एक गलत समझी गई विश्वास सीमा के साथ संयुक्त रूप से पर्याप्त है।"