Not
Bu sayfaya erişim yetkilendirme gerektiriyor. Oturum açmayı veya dizinleri değiştirmeyi deneyebilirsiniz.
Bu sayfaya erişim yetkilendirme gerektiriyor. Dizinleri değiştirmeyi deneyebilirsiniz.
Bu makalede yapay zeka uygulamalarını ve bunlarla etkileşim kuran verileri korumaya özgü özelliklerin nasıl kullanılacağı açıklanmaktadır.
- Kullanıcı istemlerinde ve yapay zeka tarafından oluşturulan verilerde hassas verilerinizi koruma
- Yeni ortaya çıkan tehditler, örneğin istem yüklemelerine karşı savunma
Bu, serideki üçüncü makaledir. Yapay zeka güvenliğine hazırlanma ve Yapay zekauygulamalarını ve verilerini keşfetme makalesindeki görevleri henüz tamamlamadıysanız, ortamınızı bu makalede belirtilen özelliklerle hazırlamak için bu makalelerle başlayın.
Bu makaleyi bu kaynakla birlikte kullanın:
- Yapay zeka için Bulut Benimseme Çerçevesi (CAF) — Yapay zekanın güvenliğini sağlama süreci
Microsoft, yapay zeka uygulamalarını ve verilerini korumaya yönelik geniş bir özellik kümesi sağlar. Bu makalede, bunlar veri koruma ve tehdit koruması olmak üzere iki kategoride ele alınmaktadır.
Aşağıdaki iki tablo, çizimi açıklar ve ayrıca bu özellikleri uygulama adımlarını izler.
Tablo 1—Veri koruma özellikleri
| Adım | Görev | Kapsam |
|---|---|---|
| 1 | Hassas siteleri ve verileri yapay zeka uygulamalarının kapsamından hızla muaf tutabilmek için SharePoint fazla paylaşım denetimlerini uygulayın. | Microsoft 365 ortamınızdaki siteler ve dosyalar. |
| 2 | Yapay zeka için Veri Güvenliği Duruş Yönetimi'ni (DSPM) kullanarak fazla paylaşımın nerede gerçekleştiğini öğrenin ve duyarlılık etiketleri ve DLP ilkeleri için ilke kapsamınızda boşluklar bulun. | Desteklenen yapay zeka siteleri de dahil olmak üzere üçüncü taraf büyük dil modüllerini (LLM' ler) kullanan yardımcı pilotlar, aracılar ve diğer yapay zeka uygulamaları. Purview SDK aracılığıyla diğer bulut sağlayıcılarındaki yapay zeka uygulamaları. |
| 3 | Duyarlılık etiketleri ve veri kaybı önleme (DLP) ilkeleri üzerinde ilerlemeye devam edin. | Microsoft 365 ortamınızdaki siteler, dosyalar ve cihazlar. SaaS uygulamaları, Cloud Apps için Defender ile tümleştirildiğinde daha iyi çalışır. Purview SDK aracılığıyla Azure'daki ve diğer bulut sağlayıcılarındaki yapay zeka uygulamaları. |
| 4 | Insider Risk Management (IRM) içinde, yapay zeka uygulamalarında riskli davranışı belirlemek için Riskli yapay zeka şablonunu uygulayın. | Üretken yapay zeka web siteleri. Microsoft 365 Copilot, Microsoft Copilot, Copilot Studio, Azure AI hizmetleri. Purview SDK aracılığıyla diğer bulut sağlayıcılarındaki yapay zeka uygulamaları. |
| 5 | Kullanıcıların riskine göre verilerin korumasını artırmak için Insider Risk Management için Uyarlamalı Koruma'nın yapılandırılması | Microsoft 365 ortamınızdaki siteler, dosyalar ve cihazlar. |
Tablo 2—Tehdit koruması özellikleri
| Adım | Görev | Kapsam |
|---|---|---|
| 1 | Yeni yapay zeka uygulamaları kullanılırken sizi uyarmak, yapay zeka uygulamalarının risk puanlarını hesaplamak ve ortamınızda bu uygulamalara izin vermek veya bunları engellemek için Cloud Apps için Defender'ı kullanın. Cloud Apps için Defender, Microsoft 365 Copilot için ek korumalar sağlar. | SaaS AI uygulamaları |
| 2 | Bulut için Defender Bulut için Microsoft Defender ile ortamınızda dağıtılan yapay zeka iş yüklerini keşfedin ve güvenlik içgörüleri elde edin |
Özel olarak oluşturulmuş Azure AI tabanlı yapay zeka uygulamaları |
Yapay zeka verilerini koruma
Bu özellikler veri paylaşımı, hassas veri kullanımı ve kullanıcıların riskli davranışlarıyla ilgili en önemli riskleri verimli bir şekilde öğrenmenize ve azaltmanıza yardımcı olur. Bu özelliklerin kapsamı, ortamınızdaki yapay zeka uygulamalarına ve verilerine yönelik korumalar olarak belirlenmiştir.
1. Adım—SharePoint fazla paylaşım denetimlerini uygulama
SharePoint aşırı paylaşım denetimleri, SharePoint içinde yerleşik olan kapsamlı izinler gibi denetimleri ve Microsoft Copilot dağıtım yolculuğu için içerik yönetimini güçlendirmek üzere SharePoint Gelişmiş Yönetim'deki eklenti özelliklerini içerir. SharePoint fazla paylaşım denetimleri size yardımcı olur:
- Copilot aramasını belirttiğiniz sitelerin listesiyle (Kısıtlı SharePoint Araması) geçici olarak sınırlayın.
- Fazla paylaşılan veriler veya hassas içerik (veri erişimi idare raporları) içerebilecek siteleri hızla belirleyin.
- Kullanıcıların Copilot veya Kuruluş genelinde arama (SharePoint Gelişmiş Yönetimi'nde Kısıtlı İçerik Bulma) aracılığıyla bulamamaları için sitelere bayrak ekleyin.
- etkin olmayan siteleri otomatik olarak yönetmek ve azaltmak için etkin olmayan site ilkeleri oluşturun (SharePoint Gelişmiş Yönetimi).
- SharePoint ve OneDrive sitelerine erişimi belirli bir gruptaki kullanıcılarla kısıtlayın (SharePoint Gelişmiş Yönetimi'nde kısıtlı erişim denetimi ilkeleri).
Fazla paylaşım denetimlerini kullanmaya başlamak için aşağıdaki kaynakları kullanın.
| Görev | Önerilen kaynaklar |
|---|---|
| Microsoft 365 Copilot ile kullanabileceğiniz fazla paylaşım denetimlerinin çizimini ve açıklamasını gözden geçirin | Microsoft 365 Copilot veri koruma ve denetim mimarisi |
| Fazla paylaşımı önlemek için indirilebilir şema | Fazla paylaşım için Microsoft 365 Copilot şeması |
| SharePoint Gelişmiş Yönetimi hakkında bilgi edinin | Microsoft SharePoint Premium - SharePoint Gelişmiş Yönetimi'ne genel bakış |
2. Adım: Yapay zeka için DSPM aracılığıyla verileri koruma
Fazla paylaşımın nerede gerçekleştiğini öğrenmek ve duyarlılık etiketleri ve DLP ilkeleri için ilke kapsamınızda boşluklar bulmak için yapay zeka için DSPM'yi kullanın.
Haftalık değerlendirme raporuyla başlamak için harika bir yerdir.
Fazla paylaşım denetimleri, etiketler ve DLP ilkelerinde nerede boşluklar olduğu hakkında daha fazla bilgi edinmek için tek tek raporların detayına gidebilir ve bu sorunları hızla giderebilirsiniz.
Her rapor için yapay zeka için DSPM, veri güvenliğinizi geliştirmeye yönelik öneriler sağlar. Kiracınız için tüm kullanılabilir önerileri ve bunların durumunu görmek için Gezinti bölmesindeki Tüm önerileri görüntüle bağlantısını veya Öneriler'i kullanın.
Yapay zeka için DSPM ile yapay zeka uygulamalarını ve verilerini korumak için aşağıdaki kaynakları kullanın.
| Görev | Önerilen kaynaklar |
|---|---|
| Yapay zeka için DSPM hakkında bilgi edinin | Yapay zeka için DSPM'yi kullanma |
| Önkoşullar ve tek tıklamayla ilkelerin ve varsayılan ilkelerin nasıl çalıştığı hakkında bilgi edinin | Yapay zeka için DSPM ile ilgili dikkat edilmesi gerekenler |
| Diğer bulut sağlayıcılarındaki yapay zeka uygulamaları için Purview SDK'sını kullanarak yapay zeka için DSPM ile tümleştirmeyi test etmeyi öğrenin | Purview SDK ile tümleştirilmiş bir yapay zeka uygulamasını test etme |
3. Adım: Duyarlılık etiketleri ve DLP ilkelerindeki boşlukları belirlemeye devam edin
Yapay zeka güvenliğine hazırlanma bölümünde, hassas verileriniz için korumayı önceliklendirmek için Microsoft Purview veri güvenliği duruş yönetim araçlarını, DSPM'yi ve yapay zeka için DSPM'yi kullandınız. İlke kapsamınızdaki boşlukları belirlemek ve duyarlılık etiketleri ve DLP ilkeleri uygulamak için nereye yatırım yapmanız gerektiğini keşfetmek için bu araçları yeniden ziyaret etmeye devam edin. Ayrıca, Cloud Apps için Defender'ı kullanarak duyarlılık etiketlerini ve DLP ilkelerini SaaS uygulamalarına genişletin.
Microsoft Purview ile ilerleme kaydetmek için aşağıdaki kaynakları kullanın.
4. Adım: Insider Risk Management'ta (IRM) Riskli Yapay Zeka şablonunu uygulama
Microsoft Purview Insider Risk Management (IRM), Riskli yapay zeka kullanımı dahil olmak üzere ortamınıza uygulayabileceğiniz önceden tanımlanmış ilke şablonları içerir. IRM şablonları, ilke tarafından kullanılan risk göstergesi türlerini ve risk puanlama modelini tanımlayan önceden tanımlanmış ilke koşullarıdır.
Riskli yapay zeka kullanım ilkesi, kuruluşunuzdaki yapay zeka araçları genelindeki istemler ve yanıtlar için risk puanlamasını algılamaya ve etkinleştirmeye yardımcı olabilir. IRM, yapay zekayla ilgili risk etkinliklerini araştırmanıza ve eyleme geçmenize yardımcı olur.
Insider Risk Management'ı kullanmaya başlamak ve Riskli yapay zeka kullanım ilkesi şablonunu uygulamak için aşağıdaki kaynakları kullanın.
| Görev | Önerilen kaynaklar |
|---|---|
| Insider Risk Management'ı kullanmaya başlayın ve kuruluşunuza fayda sağlayan en iyi senaryolar hakkında bilgi edinin | Insider risk yönetimi hakkında bilgi edinin |
| Riskli yapay zeka şablonunu uygulama | Insider risk yönetimi ilkesi şablonları hakkında bilgi edinin | Microsoft Learn |
| Yapay zeka için önemli senaryolar hakkında bilgi edinin ve örnek raporları görüntüleyin | Riskli yapay zeka kullanımı görünürlüğünü ve güvenlik araştırmalarını güçlendiren Insider Risk Management |
| Purview SDK ile geliştirilen yapay zeka uygulamaları için Insider Risk Management tümleştirmesini test edin | Purview SDK ile tümleştirilmiş bir yapay zeka uygulamasını test etme |
5. Adım: Insider Risk Management için Uyarlamalı Korumayı Yapılandırma
Microsoft Purview Insider Risk Management'ta Uyarlamalı Koruma, kullanıcılara dinamik olarak bir risk düzeyi atar ve ardından oluşturduğunuz ilkeleri orta veya yüksek riskli kullanıcılara uygular. İlkeler daha fazla veri kaybı önleme eylemi uygulayabilir, silinen içeriği koruyabilir veya daha yüksek koşullu erişim gereksinimlerini zorunlu kılabilir.
Uyarlamalı Koruma'ya başlamak için aşağıdaki kaynakları kullanın.
| Görev | Önerilen kaynaklar |
|---|---|
| Insider Risk Management'ı kullanmaya başlayın ve kuruluşunuza fayda sağlayan en iyi senaryolar hakkında bilgi edinin | Insider risk yönetimi hakkında bilgi edinin |
| Yapay zeka için önemli senaryolar hakkında bilgi edinin ve örnek raporları görüntüleyin | Riskli yapay zeka kullanımı görünürlüğünü ve güvenlik araştırmalarını güçlendiren Insider Risk Management |
| Riskli yapay zeka şablonunu uygulama | Insider risk yönetimi ilkesi şablonları hakkında bilgi edinin |
| İçeriden kaynaklanan risk etkinliklerini araştırmak ve bunlarla ilgili harekete geçmek |
Insider risk yönetimi etkinliklerini araştırın İçeriden gelen risk yönetimi durumlarında eylem gerçekleştirme |
Yapay zeka için tehdit korumasından en iyi şekilde yararlanın
Cloud Apps için Defender ve Bulut için Defender, yeni yapay zeka uygulaması kullanımı hakkında sizi bilgilendirmeye ve uygun denetimleri uygulamaya yönelik özellikler içerir.
1. Adım: Yapay zeka uygulamalarının kullanımını önceliklendirmek ve korumak için Bulut Uygulamaları için Defender'ı kullanma
Ortamınızdaki yapay zeka uygulamalarını keşfetmek için Bulut Uygulamaları için Defender'ı kullanmaya odaklanan bu serinin önceki makalesi Olan Yapay Zeka Uygulamalarını Ve Verileri Keşfetme. Bu makale, kuruluşların bulut uygulamaları için Defender'ı kullanarak bu uygulamaların ortamınıza oluşturduğu riski değerlendirerek, bu uygulamaları tasdik ederek veya engelleyerek ve uygulamalara oturum denetimleri uygulayarak yeni yapay zeka uygulama kullanımı konusunda bilgi edinmeye teşvik eder.
İlk olarak, kuruluşunuzda yeni bir Üretken Yapay Zeka uygulaması kullanılırken uyarıyı otomatik olarak tetikleyen bir ilke oluşturun.
Ardından, yeni bulunan uygulamalar için risk puanını değerlendirin. Risk puanını da özelleştirebilirsiniz. Örneğin, yüksek düzeyde düzenlenmiş kuruluşlar risk puanının belirli özniteliklerinin ağırlığını değiştirmek isteyebilir. Risk puanını da geçersiz kılabilirsiniz.
Her uygulamayı tasdik etmeye veya engellemeye karar verin. Kuruluşlar çeşitli nedenlerle uygulamaların kullanımını engellemeyi seçebilir. Bazıları hassas verilerin farkında olmadan uygulamalarla paylaşılacağından ve daha sonra kuruluş dışındaki bir hedef kitleye açık hale getirileceğinden endişe duyuyor. Bu durum kuruluşun tüm yönetilmeyen yapay zeka uygulamalarının kullanımını engellemesine neden olabilir. Diğer kuruluşların kullanımdaki tüm uygulamaların SOC2 veya HIPAA gibi farklı standartlara uygun olduğundan emin olması gerekir.
Son olarak tasdik ettiğiniz uygulamalar için daha fazla denetim ve görünürlük için oturum ilkeleri uygulamak isteyip istemediğinize karar verin. Oturum ilkeleri, bulut uygulamalarının kuruluşunuz tarafından nasıl kullanıldığına parametreler uygulamanıza olanak sağlar. Örneğin, yalnızca yönetilen cihazların bir yapay zeka uygulamasına erişmesine izin veren bir oturum ilkesi yapılandırabilirsiniz. Daha basit bir örnek, daha katı ilkeler uygulamadan önce bu trafiğin riskini analiz edebilmeniz için yönetilmeyen cihazlardan gelen trafiği izlemek için bir ilke yapılandırmak olabilir.
Bu çizimde:
- Kuruluşunuzdaki kullanıcılardan ve cihazlardan tasdikli bulut uygulamalarına erişim, oturum ilkelerinin belirli uygulamalara uygulanabileceği Defender for Cloud Apps üzerinden yönlendirilir.
- Tasdik etmediğiniz veya açıkça tasdik edilmeyen bulut uygulamaları etkilenmez.
Cloud Apps için Defender ayrıca Microsoft 365 Copilot için ayrılmış algılamalar sağlar. Güvenlik ekipleri bir kullanıcının Copilot ile şüpheli etkileşimlerini algılayabilir ve tehdidi yanıtlayabilir ve hafifletebilir. Örneğin, bir kullanıcı riskli bir IP adresinden Copilot aracılığıyla hassas verilere eriştiğinde, Cloud Apps için Defender, MITRE saldırı tekniği, IP adresi ve güvenlik ekiplerinin bu uyarıyı daha fazla araştırmak için kullanabileceği diğer alanlar gibi önemli ayrıntılarla bu şüpheli etkinliği işaretlemek için bir uyarı tetikler.
Sonraki adımlar olarak aşağıdaki kaynakları kullanın.
| Görev | Önerilen kaynaklar |
|---|---|
| Bu Cloud Apps için Defender dağıtım akışında 5-8 arası adımları gözden geçirin | Bulut uygulamalarını keşfetme ve yönetme |
| Uygulamaları yönetmeyle ilgili bu video öğreticisini gözden geçirin | Bulut Uygulamaları için Defender kullanarak ortamınızda hangi üretken yapay zeka uygulamalarının kullanıldığını keşfetme - YouTube |
| Uygulama bulma ilkesi oluşturma | Bulut keşif politikaları oluşturma |
| Yeni bulunan uygulamalar için risk puanını değerlendirme | Bulut uygulamaları kataloğu ve risk puanları |
| Yeni uygulamaları tasdik etme veya engelleme | Bulunan uygulamaları yönetme |
| Daha fazla denetim ve görünürlük için yapay zeka uygulamalarına oturum ilkeleri uygulama | Oturum ilkeleri oluşturma |
| Microsoft 365 Copilot için tehdit koruması kullanmayı öğrenin | Microsoft 365 için Microsoft Copilot için yeni tehdit algılamaları |
2. Adım: Bulut için Defender'da yapay zeka korumaları uygulama
Bu serinin önceki makalesi olan Yapay Zeka Uygulamalarını ve verilerini keşfetme, ortamınızda çalışan yapay zeka iş yüklerini ve modellerini keşfetmeye odaklanmıştır. Bu makale, özel yapay zeka uygulamalarınızı derleyip kullanırken uygulama yaşam döngüsü boyunca GenAI uygulamalarının korunmasına odaklanır.
Kuruluşlar, iş verimliliğini ve üretkenliğini artırmak için yeni GenAI uygulamaları geliştirmeyi ve mevcut uygulamalara yapay zeka eklemeyi tercih eder. Saldırganlar istem ekleme, cüzdan saldırıları, model hırsızlığı ve veri zehirlemesi gibi yeni saldırılarla yapay zeka modelinin tasarlanmış amacını değiştirmek için uygulamalardan yararlanmaya çalışırken, veri ihlalleri ve hizmet reddi gibi bilinen risklere karşı daha duyarlılığı artırmaktadır. Güvenlik ekiplerinin hazırlıklı olması ve yapay zeka uygulamaları ve yeni tehdit ortamına yönelik algılamalar için uygun güvenlik denetimlerine sahip olduğundan emin olmaları gerekir.
Bulut için Microsoft Defender, kuruluşların hibrit ve çoklu bulut ortamlarını koddan buluta güvenli bir şekilde korumalarına yardımcı olur. Bulut için Defender, kuruluşların tüm uygulama yaşam döngüsü boyunca kurumsal olarak oluşturulan GenAI uygulamalarını korumasını sağlayan güvenlik duruşu ve tehdit koruması özellikleri içerir:
- Koddan buluta GenAI uygulama bileşenlerini ve yapay zeka yapıtlarını sürekli keşfedin.
- Güvenlik duruşlarını güçlendirmek için yerleşik önerilerle GenAI uygulamalarının risklerini keşfedin ve düzeltin.
- Saldırı yolu analizini kullanarak GenAI uygulamalarında toksik bileşimleri tanımlama ve düzeltme.
- Azure AI İçerik Güvenliği istem kalkanları, Microsoft tehdit bilgileri sinyalleri ve bağlamsal etkinlik izleme ile desteklenen GenAI uygulamalarında algılama.
- Microsoft Defender ile yerleşik tümleştirme sayesinde, GenAI uygulamalarındaki saldırıları tespit edip araştırın.
Defender Bulut Güvenliği Duruş Yönetimi'nde (CSPM) yapay zeka güvenlik duruşu yönetimi özellikleriyle başlayın. Defender CSPM, Azure OpenAI Hizmeti, Azure Machine Learning ve Amazon Bedrock gibi yapay zeka hizmetlerinde kullanılan yapay zeka modellerinin, SDK'ların ve teknolojilerin varlığı ve yapılandırmalarına yönelik aracısız ve ayrıntılı görünürlüğe sahip dağıtılmış yapay zeka iş yüklerini otomatik olarak ve sürekli olarak keşfeder.
CSPM sürekli olarak bağlamsal güvenlik sorunlarını ortaya çıkartır ve yapay zeka iş yüklerinizdeki kritik boşlukları önceliklendirmek için uyarlanmış risk tabanlı güvenlik önerileri önerir. İlgili güvenlik önerileri, Azure portalında Azure OpenAI kaynağının içinde de görünür ve geliştiricilere veya iş yükü sahiplerine önerilere doğrudan erişim sağlar ve daha hızlı düzeltmeye yardımcı olur.
Saldırı yolu analiz yeteneği, verilerin yanal hareketle internet'e açık olduğu ve veri zehirlenmesine maruz kaldığı, veri güvenliği senaryoları dahil olmak üzere, yapay zeka iş yükleri için hassas verileri ve ince ayar verilerini içeren gelişmiş riskleri belirleyebilir.
Ardından yapay zeka iş yükleri için tehdit koruması ile çalışma zamanında güvende kalın. Bulut için Defender, yapay zeka iş yükleri için tehdit koruması içerir. Yapay zeka için tehdit koruması, yerel tümleştirme ile Azure OpenAI Hizmeti, Azure AI İçerik Güvenliği istem kalkanları ve Microsoft tehdit zekasını kullanarak, bağlamsal ve eyleme dönüştürülebilir güvenlik uyarıları sunar. Yapay zeka iş yükleri için tehdit koruması, güvenlik ekiplerinin azure OpenAI destekli uygulamalarını çalışma zamanında doğrudan ve doğrudan istem ekleme saldırıları, hassas veri sızıntıları ve veri zehirlemesinin yanı sıra cüzdan kötüye kullanımı veya hizmet reddi saldırılarıyla ilişkili kötü amaçlı etkinlikler için izlemesine olanak tanır.
Sonraki adımlar için aşağıdaki kaynakları kullanın.
| Görev | Önerilen kaynaklar |
|---|---|
| Bu blogda açıklanan en iyi senaryoları gözden geçirin | Bulut için Microsoft Defender ile Güvenli Üretken Yapay Zeka Uygulamaları |
| Ortamınızdaki yapay zeka risklerine görünürlük sağlamak için CSPM kullanma |
Defender CSPM ile kaynaklarınızı koruma Veri ve yapay zeka güvenlik panosunu gözden geçirme (Önizleme) |
| Yapay zeka iş yükleri için tehdit korumasını etkinleştirme (önizleme) | Yapay zeka iş yükleri için tehdit korumasını etkinleştirme (önizleme) Yapay zeka iş yükleri için uyarılar (Önizleme) |
Yapay zekanın güvenliğini sağlamak için sonraki adım
Kuruluşunuzdaki yapay zeka uygulamalarını ve verilerini koruduktan sonra, bir sonraki adım mevzuat uyumluluğu gereksinimlerini karşılamak için yapay zeka uygulamalarını idare etmektir:
- Uyumluluk duruşunuzu düzenlemelere göre değerlendirin ve güçlendirin.
- Yapay zeka uygulamalarının ve verilerinin kullanımını idare etmek için denetimler uygulayın.
Bu serinin sonraki makalesine bakın: Uyumluluk için yapay zekayı nasıl yönetebilirim?