Aracılığıyla paylaş


Yapay zeka uygulamalarını ve verilerini keşfetme

Kuruluşlar çeşitli kapasitelerde GenAI ile etkin bir şekilde etkileşime girdikçe veya bu kapasitelerle denemeler yapınca, üretken yapay zeka (GenAI) daha önce görülmemiş bir oranda benimseniyor. Güvenlik ekipleri, kuruluş içindeki yapay zeka kullanımına yönelik görünürlük elde ederek ve ilgili denetimleri uygulayarak riskleri daha etkili bir şekilde hafifletebilir ve yönetebilir. Bu makalede, hassas verilerinize yönelik riski değerlendirmek de dahil olmak üzere, kuruluşunuzdaki yapay zeka uygulaması kullanımını keşfetme açıklanmaktadır.

Bu, serideki ikinci makaledir. Bu makaleyi kullanmadan önce, ortamınızı bu makalede belirtilen özelliklerle hazırlamak için Yapay zeka güvenliğine hazırlanma başlığındaki görevleri gerçekleştirdiğinizden emin olun.

Yapay zeka için güvenlik serisinin ikinci makalesini (Keşif) gösteren diyagram.

Microsoft, oluşturduğunuz ve kullandığınız yapay zeka için veriler, erişim, kullanıcı ve uygulama riskleri hakkında görünürlük kazanmanıza yardımcı olacak araçlar sağlar. Bu özellikler, yapay zeka için güçlü bir güvenlik duruşu oluştururken güvenlik açıklarını proaktif olarak gidermenize yardımcı olur.

Yapay zeka bulma özelliklerini gösteren diyagram.

Aşağıdaki tabloda çizim açıklanır ve ayrıca bu özellikleri uygulama adımları gösterilmektedir.

Adım Görev Kapsam
1 Microsoft Entra Agent Id ile Microsoft Copilot Studio ve Azure AI Foundry genelinde oluşturulan tüm aracı kimlikleri hakkında görünürlük elde edin. Microsoft Copilot Studio ve Azure AI Foundry'de oluşturulan aracılar
2 Yapay zeka kullanımıyla ilgili görünürlük elde edin: Yapay zeka için Microsoft Purview Veri Güvenliği Duruş Yönetimi (DSPM). Hassas verileri korumak için ilkeler uygulayın. Desteklenen yapay zeka siteleri de dahil olmak üzere üçüncü taraf büyük dil modüllerini (LLM' ler) kullanan yardımcı pilotlar, aracılar ve diğer yapay zeka uygulamaları.
3 Cloud Apps için Microsoft Defender ile yapay zeka uygulamalarını bulma, tasdik etme ve engelleme SaaS AI uygulamaları
4 Bulut Güvenliği Duruş Yönetimi (CSPM) için Microsoft Defender ile ortamınızda dağıtılan yapay zeka iş yüklerini keşfedin ve güvenlik içgörüleri elde edin Özel olarak oluşturulmuş Azure AI tabanlı yapay zeka uygulamaları

1. Adım—Entra Temsilci Kimliği (Önizleme) ile aracılara görünürlük kazanın

Kuruluşlar yapay zeka aracıları oluşturup benimsedikçe bu insan olmayan aktörleri takip etmek zordur. Bu aracıların karmaşık görevleri otonom bir şekilde yerine getirebilmeleri ve sanal ekip arkadaşları gibi davranmaları gibi güçlü hale getiren şey de kaygılara neden olur. Bu nedenle aracı kimliklerini izlemek, yaşam döngüsünü ve izinlerini yönetmek ve kuruluşunuzun kaynaklarına erişimini dikkatli bir şekilde güvence altına almak kritik önem taşır.

Microsoft Entra Aracısı Kimliği (Önizleme), Microsoft Copilot Studio ve Azure AI Foundry genelinde oluşturulan tüm aracı kimliklerinin birleşik dizinini sağlar. Bu, kuruluşlarda hızla büyüyen aracı hacminin görünürlüğünü, korumasını ve idaresini daha da artırmanın ilk adımıdır.

Görev Önerilen kaynaklar
Kuruluşunuzdaki tüm aracıları görüntüleme Microsoft Entra yönetim merkezinde oturum açın ve Kurumsal uygulamalar'a gidin. Liste görünümünün en üstündeki filtre çubuğunda Uygulama türü açılan listesini Aracı Kimliği (Önizleme) olarak ayarlayın. Anında, kurumsal uygulama listeniz kiracınızda kayıtlı olan yapay zeka aracılarını (Copilot Studio veya Azure AI Foundry aracılığıyla oluşturulan) göstermek üzere daraltılır.
Bu blogu gözden geçirerek daha fazla bilgi edinin Microsoft Entra Aracısı Kimliği Duyuruu: Yapay zeka aracılarınızın güvenliğini sağlama ve yönetme

2. Adım: Yapay zeka için Veri Güvenliği Duruş Yönetimi (DSPM) ile yapay zeka kullanımına görünürlük sağlama

Yapay zeka için Microsoft Purview Veri Güvenliği Duruş Yönetimi (DSPM), yapay zekanın kuruluşunuzda nasıl kullanıldığına, özellikle de verilerinizin yapay zeka araçlarıyla etkileşim kurma şekline odaklanır. Üretken yapay zeka siteleriyle çalışır. Yapay zeka için DSPM, Microsoft Copilot'lar ve ChatGPT Enterprise ve Google Gemini gibi üçüncü taraf SaaS uygulamaları için daha ayrıntılı içgörüler sağlar.

Aşağıdaki diyagramda, yapay zeka kullanımının verileriniz üzerindeki etkisine ilişkin toplu görünümlerden biri gösterilmektedir: Üretken yapay zeka uygulaması başına hassas etkileşimler.

Üretken yapay zeka uygulaması başına hassas etkileşimlerin ekran görüntüsü.

Yapay zeka için DSPM, üretkenlik ve koruma arasında seçim yapmak zorunda kalmadan yapay zekayı güvenli bir şekilde benimsemenize yardımcı olan bir dizi özellik sunar:

  • Kuruluşunuzdaki yapay zeka etkinliğiyle ilgili içgörüler ve analizler
  • Yapay zeka istemlerinde verileri korumak ve veri kaybını önlemek için kullanıma hazır ilkeler
  • Verilerin aşırı paylaşılması olasılığını belirlemek, düzeltmek ve izlemek için veri riski değerlendirmeleri
  • Kiracınızdaki verilere göre önerilen eylemler
  • En iyi veri işleme ve depolama ilkelerini uygulamak için uyumluluk denetimleri

Üçüncü taraf yapay zeka siteleriyle etkileşimleri izlemek için cihazların Microsoft Purview'a eklenmelidir. Yapay zeka güvenliğine hazırlanma bölümünde yer alan yönergeleri izlediyseniz cihazları Microsoft Intune ile yönetime kaydettiniz ve ardından bu cihazları Uç Nokta için Defender'a dahil ettiniz. Cihaz kaydı, Microsoft 365 (Microsoft Purview dahil) ve Microsoft Defender for Endpoint (MDE) arasında paylaşılır.

AI için DSPM ile yapay zeka uygulamalarını ve verilerini keşfetmek için aşağıdaki kaynakları kullanın.

Görev Önerilen kaynaklar
Cihazların Microsoft Purview'a ekli olduğundan emin olun. Cihazlar henüz Uç Nokta için Defender'a eklenmemişse, bunları eklemeye yönelik çeşitli yöntemler vardır. Bkz. Windows cihazlarını Microsoft 365'e ekleme.
Önkoşulları ve yapay zeka için DSPM'nin nasıl çalıştığını anlama Yapay zeka için Microsoft Purview Veri Güvenliği Duruş Yönetimi'nin dağıtılmasında dikkat edilmesi gerekenler
Yapay zeka için DSPM kullanmaya başlama Yapay zeka için Veri Güvenliği Duruş Yönetimi'ni kullanma
Desteklenen yapay zeka sitelerini gözden geçirme Veri güvenliği ve uyumluluk korumaları için Microsoft Purview tarafından desteklenen yapay zeka siteleri

3. Adım: Cloud Apps için Microsoft Defender ile yapay zeka uygulamalarını bulma, tasdik etme ve engelleme

Cloud Apps için Microsoft Defender, güvenlik ekiplerinin SaaS GenAI uygulamalarını ve kullanımını bulmasına yardımcı olur.

Cloud Apps için Defender uygulama kataloğu, Microsoft Bing Sohbeti, Google Bard, ChatGPT ve daha fazlası gibi büyük dil modeli (LLM) uygulamaları için oluşturucu yapay zeka kategorisi içerir. Cloud Apps için Defender, kataloğa binden fazla yapay zeka ile ilgili uygulama ekleyerek kuruluşunuzda üretken yapay zeka uygulamalarının nasıl kullanıldığına ilişkin görünürlük sağladı ve bunları güvenli bir şekilde yönetmenize yardımcı oldu.

Bulut uygulaması kataloğunda uygulama arama işleminin ekran görüntüsü.

Cloud Apps için Defender ile şunları yapabilirsiniz:

  • Üretken yapay zeka uygulamalarına filtre uygulama
  • Kuruluşunuzda kullanılan yapay zeka uygulamalarını keşfedin
  • Güvenlik ve mevzuat uyumluluğu genelinde 90'dan fazla risk faktörü de dahil olmak üzere her uygulama için kullanıma hazır risk değerlendirmelerini görüntüleyin
  • Belirli uygulamaların kullanımını tasdik etme veya yasaklama (engelleme)
  • Risk puanı, günlük kullanıcı sayısı ve diğerleri gibi belirlediğiniz ölçütlere göre yapay zeka uygulamalarını keşfetmeye devam eden ilkeler oluşturun. Hatta ölçütlere uyan uygulamaları otomatik olarak kaldırabilirsiniz.

Microsoft Defender'daki Cloud Discovery sayfasının ekran görüntüsü.

Sonraki adımlar için aşağıdaki kaynakları kullanın.

Görev Önerilen kaynaklar
Cloud Apps için Defender'ı deneme ve dağıtma Cloud Apps için Microsoft Defender'ı nasıl pilot olarak hazırlayıp dağıtacağım?
Bu öğretici videosunu gözden geçirin Cloud Apps için Defender kullanarak ortamınızda hangi üretken yapay zeka uygulamalarının kullanıldığını keşfedin
Bulunan uygulamaları görüntüleme Bulunan uygulamaları Cloud discovery panosuyla görüntüleme
Bulut uygulamanızı bulma ve risk puanını hesaplama Bulut Uygulamaları için Microsoft Defender - uygulama kataloğu ve risk puanları
Bulunan uygulamaları yönetme Keşfedilen uygulamaları yönetmek - Cloud Apps için Microsoft Defender

4. Adım: Ortamınızda dağıtılan yapay zeka iş yüklerini keşfedin ve Bulut için Microsoft Defender ile güvenlik içgörüleri elde edin

Bulut için Microsoft Defender'daki Defender Bulut Güvenliği Duruş Yönetimi (CSPM) planı, ortamlarınızda yerleşik yapay zeka uygulamalarının bulunmasından başlayarak yapay zeka güvenlik duruşu yönetimi özellikleri sağlar:

  • Koddan buluta uygulama bileşenlerini, verileri ve yapay zeka yapıtlarını içeren üretken Yapay Zeka Ürün Reçetesini (AI BOM) keşfetme.
  • Yerleşik önerilerle ve güvenlik risklerini keşfederek ve düzelterek üretken yapay zeka uygulama güvenliği duruşlarını güçlendirme.
  • Riskleri belirlemek ve düzeltmek için saldırı yolu analizini kullanma.

Ortamınızda çalışan yapay zeka iş yüklerini ve modellerini tanımlamak için bulut güvenlik gezginini kullanın. Bulut güvenlik gezgini önceden yapılandırılmış sorgular içerir:

  • Yapay zeka iş yükleri ve kullanımdaki modeller
  • Azure OpenAI'yi sağlamak için oluşturulan generatif yapay zeka güvenlik zafiyetine açık kod depoları
  • Bilinen Üretken Yapay Zeka güvenlik açıklarına sahip kapsayıcı görüntülerini çalıştıran kapsayıcılar.

Kullanımda olan yapay zeka iş yüklerinin ve modellerinin ekran görüntüsü

Kendi sorgularınızı da yapılandırabilirsiniz.

Kendi sorgularını yapılandırmak için yapılandırma sayfasının ekran görüntüsü.

Sonraki adımlar için aşağıdaki kaynakları kullanın.

Görev Önerilen kaynaklar
Yapay zeka güvenlik duruşu yönetimi hakkında bilgi edinin Defender for Cloud ile yapay zeka güvenlik duruşu yönetimi
Yapay zeka iş yüklerini keşfetme Yapay zeka iş yükleri ve kullanımdaki modeller
Üretken yapay zeka yapıtlarını önceden dağıtacak riskleri keşfetme Ön dağıtım aşamasındaki üretken yapay zeka eserlerine yönelik riskler

Yapay zekanın güvenliğini sağlamak için sonraki adım

Kuruluşunuzdaki yapay zeka kullanımını keşfettikten sonra, bir sonraki adım korumaları uygulamaktır:

  • Yapay zeka uygulamalarıyla kullanılan hassas verileri koruma
  • Özel olarak yapay zeka kullanımı için tehdit koruması uygulama

Bu serinin sonraki makalesine bakın: Yapay zeka uygulamalarını kullanırken kuruluşumu nasıl koruyabilirim?