एआई विकास वातावरण में जोखिमों और जिम्मेदारियों को समझें
विकासक Copilot Studio, Azure AI सेवाहरू, Copilot in Fabric र Microsoft Entra-दर्ता एपहरू जस्ता उपकरणहरू प्रयोग गरिरहेका छन्। ये परिवेश नई क्षमताओं को अनलॉक करते हैं लेकिन सुरक्षा उपायों को लागू नहीं करने पर सुरक्षा और अनुपालन जोखिम भी पैदा करते हैं। असुरक्षित डेटा एक्सेस से लेकर अनियंत्रित AI प्रतिक्रियाओं तक, एक एकल गलत कॉन्फ़िगर किए गए एजेंट या प्रॉम्प्ट के परिणामस्वरूप संवेदनशील डेटा एक्सपोज़र या नियामक उल्लंघन हो सकते हैं।
विकास वातावरण में बनाए गए एआई एजेंट और ऐप उपयोगकर्ता इनपुट और बैकएंड डेटा स्रोतों के आधार पर संवेदनशील जानकारी को निगलना, उत्पन्न और साझा कर सकते हैं। कई कारक इन वातावरणों को विशिष्ट रूप से जोखिम भरा बनाते हैं:
- प्रॉम्प्ट इंजेक्शन हमले एजेंट के व्यवहार में हेरफेर करने के लिए अनफ़िल्टर्ड इनपुट का फायदा उठा सकते हैं।
- एआई एजेंट उस डेटा तक पहुंच सकते हैं और वापस कर सकते हैं जो उन्हें नहीं करना चाहिए, खासकर यदि उनकी अनुमतियां बहुत व्यापक हैं।
- विकास में उपयोग की जाने वाली फ़ाइलों में संवेदनशीलता लेबल या एन्क्रिप्शन की कमी हो सकती है, जिससे वे असुरक्षित हो जाते हैं।
- Microsoft Entra ID के माध्यम से पंजीकृत या Azure AI सेवाओं का उपयोग करके परिनियोजित कस्टम ऐप्स Microsoft Purview पर ऑनबोर्ड नहीं होने पर पारंपरिक सुरक्षा उपकरणों की दृश्यता से बाहर हो सकते हैं।
इन वातावरणों में कोई भी उपकरण या प्लेटफ़ॉर्म शामिल है जहाँ डेवलपर्स या निर्माता AI-संचालित ऐप्स का निर्माण, कॉन्फ़िगर या विस्तार करते हैं, चाहे वह कम-कोड, कस्टम कोड या Microsoft Entra-पंजीकृत इंटरफेस के माध्यम से हो।
चुनौती को समझें
एआई विकास की गति और लचीलापन अक्सर दृश्यता और नियंत्रण में अंतराल पैदा करता है। पारंपरिक आईटी-प्रबंधित प्रणालियों के विपरीत, ये उपकरण विकेंद्रीकृत या कम-कोड प्लेटफार्मों में चलते हैं जहां सुरक्षा उपायों को लगातार लागू नहीं किया जाता है। यह न केवल तैनाती के दौरान बल्कि प्रारंभिक विकास और परीक्षण में भी जोखिम का परिचय देता है।
विकास के वातावरण में सुरक्षा उपायों की स्थापना
इन जोखिमों को कम करने के लिए, संगठनों को एआई विकास वातावरण में ये कार्रवाई करनी चाहिए:
- उन ऐप्स और एजेंटों की खोज करें जो वे एक्सेस करते हैं
- संवेदनशीलता लेबल और DLP नीतियाँ लागू करें ताकि संवेदनशील फ़ाइलें और असुरक्षित इंटरैक्शन सुरक्षित रहें
- Purview एनालिटिक्स का उपयोग करके शीघ्र दुरुपयोग या अनधिकृत पहुंच जैसे जोखिम भरे व्यवहार का पता लगाएं
- अनुपालन आवश्यकताओं को पूरा करने के लिए अवधारण, अंकेक्षण और eDiscovery के साथ सहभागिताओं को संरक्षित और जाँचना
सुरक्षा लागू करने के लिए Microsoft Purview का उपयोग करें
एक बार जोखिमों की पहचान हो जाने के बाद, Microsoft Purview संपूर्ण विकास परिवेशों में संगत सुरक्षा उपाय लागू करने के लिए उपकरण प्रदान करता है. एआई के लिए डीएसपीएम दृश्यता देता है जिसमें ऐप्स और एजेंट सक्रिय हैं, जबकि ऑडिटिंग और जोखिम का पता लगाने से बातचीत और सतह के संभावित दुरुपयोग पर कब्जा हो जाता है। संवेदनशील सामग्री की सुरक्षा के लिए, व्यवस्थापक संवेदनशीलता लेबल और DLP नीतियाँ लागू कर सकते हैं. अवधारण नीतियाँ अनुपालन के लिए शीघ्र और प्रतिसाद डेटा संरक्षित करती हैं, जबकि eDiscovery आवश्यकता पड़ने पर उस डेटा की खोज और जाँच का समर्थन करता है.
नवाचार को धीमा किए बिना सुरक्षित विकास का समर्थन करें
ये उपकरण संगठनों को एआई विकास वातावरण में लगातार सुरक्षा उपायों को लागू करने देते हैं। दृश्यता, सुरक्षा, पहचान और अनुपालन पर ध्यान केंद्रित करके, संगठन नवाचार को धीमा किए बिना सुरक्षित विकास का समर्थन कर सकते हैं।