Mevzuat uyumluluğu için yapay zeka uygulamalarını ve verilerini yönetme

Bölgeler ve sektörlerde yapay zeka düzenlemeleri ve standartları ortaya çıkar ve kuruluşların güvenilir yapay zeka geliştirmek ve kullanmak için denetimlerini değerlendirmesi, uygulaması ve test etmelerine yönelik sağlam bir çerçeve sağlar. Bu makale, risk ve uyumluluk ekiplerinin uyumluluk çabası için hazırlanmalarına yardımcı olur. Aşağıdakilerin nasıl yapılacağını açıklar:

• Uyumluluk duruşunuzu düzenlemelere göre değerlendirin ve güçlendirin.
• Yapay zeka uygulamalarının ve verilerinin kullanımını idare etmek için denetimler uygulayın.

Bu, serideki dördüncü makaledir. Yapay zeka güvenliğine hazırlanma, Yapay zekauygulamalarını ve verilerini keşfetme veYapay zeka uygulamalarını ve verilerini koruma makalesindeki görevleri henüz tamamlamadıysanız, ortamınızı bu makalede belirtilen özelliklerle hazırlamak için bu makalelerle başlayın.

Bu makaleyi şu kaynaklarla birlikte kullanın:

• Sıfır Güven benimseme çerçevesi iş senaryosu—Sıfır Güven ile mevzuat ve uyumluluk gereksinimlerini karşılama
• Yapay zeka için Bulut Benimseme Çerçevesi (CAF) — Yapay zekayı yönetme süreci

Yapay zeka uygulamalarını ve verilerini idare etme konusunda dikkat edilmesi gereken yeni noktalar nelerdir?

Yapay zekanın risk ortamını değiştiren yeni saldırı yüzeylerini tanıtması gibi, yapay zeka da mevzuat uyumluluğunu etkileyen yeni veri işleme ve kullanma yöntemleri de sunmaktadır. Yapay zekanın bu yeni özellikleri hem gizlilik düzenlemeleri gibi mevcut düzenlemeleri hem de özellikle yapay zeka kullanımını hedefleyen yeni düzenlemeleri etkiler.

Aşağıdaki çizimde Kuzey Amerika'da Yapay Zeka ve Veri Yasası (AIDA), AB Yapay Zeka Yasası, Avustralya'da Yapay Zeka Eylem Planı ve ISO tarafından üretilen küresel standartlar dahil olmak üzere ortaya çıkan yapay zeka düzenlemeleri vurgulanmıştır.

Genel olarak, mevzuat uyumluluğu için idare yapay zekası şunları içerir:

• Yapay zeka etkileşimlerini günlüğe kaydetme ve saklama.
• Olası uyumsuz kullanımı algılama.
• Gerektiğinde yapay zeka etkileşimlerinde eKeşif gibi araçları kullanma.

Bu, kuruluşların uyumluluk gereksinimlerini karşılamalarına ve olası davalara etkili bir şekilde yanıt vermelerine yardımcı olur.

Yapay zeka oluşturan kuruluşlarda, risk ve uyumluluk ekiplerinin geliştirme ekiplerinin model adı, sürümü, yapay zeka sistemlerinin amacı ve kalite, güvenlik ve güvenlik risklerini ele almak için değerlendirme ölçümleri gibi proje ayrıntılarını belgelemelerine olanak sağlaması gerekir. Bu çaba, risk ve uyumluluk ekiplerinin denetimlere hazırlanmak ve mevzuat isteklerine yanıt vermek için standartlaştırılmış bir bilgi biçimine sahip olmasına yardımcı olabilir.

Bir diğer en iyi uygulama da, birçok şirketin GDPR gibi düzenlemeler için uygulamış olduğu bir denetim olan gizlilik etkisi değerlendirmelerini kullanarak yapay zeka uygulamalarının gizliliği korumak için tüm değerlendirmelere ve denetimlere sahip olmasını sağlamaktır. Microsoft, geliştiricilerin gizliliği dikkate almalarını sağlamak için yapay zeka geliştirme yaşam döngünüze kolayca tümleştirilebilen Priva Gizlilik Değerlendirmeleri gibi özellikler sunar.

Son olarak, sorumlu yapay zeka uygulamaları oluşturmak ve yeni mevzuat gereksinimlerine uymak için kuruluşların şiddet, nefret, cinsel ve kendine zarar verme gibi zararlı içerikleri algılamak ve engellemek için korumalar oluşturması gerekir. Ayrıca, yapay zeka uygulamalarınızın güvenilir içerik üretmesini istiyorsunuz. Korumalar, ön planda olmayan çıkışa dayalı hatalı kararlar verme riskini azaltmak için yanlış bilgilerin algılanıp düzeltilmesine yardımcı olmalıdır. Ayrıca telif haklarını ihlal eden içeriği de tanımlamaları gerekir. Bu korumalar kuruluşların sorumlu ve güvenilir yapay zeka uygulamaları oluşturmalarına yardımcı olabilir.

Yapay zeka uygulamalarını ve verilerini idare etme özellikleri

Microsoft, kuruluşların yasal standartlar ile teknoloji çözümleri arasındaki noktaları birbirine bağlamasına yardımcı olan özellikler içerir.

Aşağıdaki adımlar, çizimi açıklar ve ayrıca bu özellikleri uygulama adımlarını adım adım açıklar.

Adım	Görev	Kapsam
1	Microsoft Purview Uyumluluk Yöneticisi'nde değerlendirme oluşturma ve yönetme	Kurumsal çapta
2	Uyumluluk riskine göre yapay zeka uygulamalarını yönetmek için Cloud Apps için Defender'ı kullanma	SaaS AI uygulamaları
3	Uyumluluk riskine göre özel olarak oluşturulmuş uygulamaları keşfetmek ve yönetmek için yapay zeka iş yükleri için Bulut Güvenliği Duruş Yönetimi'ni (CSPM) kullanma	Özel olarak oluşturulmuş Azure AI tabanlı yapay zeka uygulamaları
4	Kuruluşunuzda uygunsuz olabilecek iletileri algılamanıza, yakalamanıza ve işlem yapmanıza yardımcı olarak iletişim risklerini en aza indirmek için Purview İletişim Uyumluluğunu yapılandırın	Microsoft 365 uygulamaları ve hizmetleri Microsoft Entra veya Microsoft Purview Veri Haritası bağlayıcıları tarafından bağlanan yapay zeka uygulamaları
5	Purview Veri Yaşam Döngüsü Yönetimi'ni, saklamanız gereken içeriği saklayacak ve saklamadığınız içeriği silecek şekilde yapılandırın.	Microsoft 365 uygulamaları ve hizmetleri
6	Gerektiğinde araştırma için eBulma'yı Microsoft 365 Copilot denetim günlükleriyle birlikte kullanın	Microsoft 365 Copilot, Microsoft Copilot
7	Oluşturduğunuz yapay zeka uygulamaları için gizlilik etkisi değerlendirmeleri başlatmak için Priva Gizlilik Değerlendirmelerini kullanma	Herhangi bir uygulama, herhangi bir konum
8	Yapay Zeka Dökümhanesi'nde yapay zeka raporlarını kullanarak geliştirdiğiniz uygulamaların yapay zeka projesi ayrıntılarını belgeleyin	Azure'da yapay zeka uygulamaları
9	Zararlı içeriği engellemek ve planlanmamış yanıtları algılamak ve düzeltmek için Azure AI İçerik Güvenliği'ni uygulama	Azure'da yapay zeka uygulamaları

1. Adım: Microsoft Purview Uyumluluk Yöneticisi'nde değerlendirme oluşturma ve yönetme

Microsoft Purview Uyumluluk Yöneticisi, çoklu bulut ortamınızda uyumluluğu otomatik olarak değerlendirmenize ve yönetmenize yardımcı olan bir çözümdür. Uyumluluk Yöneticisi, veri koruma risklerinizin envanterini almaktan denetimleri uygulama, düzenlemeler ve sertifikalarla güncel kalma ve denetçilere raporlama gibi karmaşıklıkları yönetmeye kadar uyumluluk yolculuğunuz boyunca size yardımcı olabilir.

Uyumluluk Yöneticisi şu anda aşağıdaki yapay zeka ile ilgili düzenlemeler için mevzuat şablonları içerir:

• AB Yapay Zeka Yasası
• ISO/IEC 23894:2023
• ISO/IEC 42001:2023
• NIST AI Risk Management Framework (RMF) 1.0

Uyumluluk Yöneticisi'ni kullanmaya başlamak için aşağıdaki kaynakları kullanın.

Görev	Önerilen kaynaklar
Hakkında bilgi edinin ve kullanmaya başlayın	Microsoft Purview Uyumluluk Yöneticisi Microsoft Purview Uyumluluk Yöneticisi ile çalışmaya başlama Microsoft Purview Uyumluluk Yöneticisi'nde değerlendirme oluşturma ve yönetme
Uyumluluk Yöneticisi'nin bir düzenleme şablonu içerip içermediğini görün	Düzenlemeler listesi
Özel değerlendirme oluşturma	Microsoft Purview Uyumluluk Yöneticisi'nde özel değerlendirmeler (önizleme) oluşturma

2. Adım: Cloud Apps için Defender'ı kullanma

Uyumluluk riskine göre yapay zeka uygulamalarını yönetmek için Cloud Apps için Defender'ı kullanın. Bu serinin önceki makalelerinde, yapay zeka uygulamalarını keşfetmek, yönetmek ve korumak için Cloud Apps için Defender'ın nasıl kullanılacağı açıklanmaktadır. Mevzuat uyumluluğu, bu uygulamaların riskini önceliklendirmek ve değerlendirmek için ek ölçütler sağlar.

Purview Uyumluluk Yöneticisi'nde belirli düzenlemeler için bir veya daha fazla değerlendirme yaptıktan sonra, uyumluluk yükümlülüklerinizi yapay zeka uygulamalarının riskini değerlendirme, bu uygulamaları tasdik etme veya engelleme ölçütleriyle tümleştirmek ve bu uygulamalara nasıl erişilebileceğini denetlemek için oturum ilkeleri uygulamak için (örneğin, yalnızca uyumlu bir cihazla) Cloud Apps için Defender ekibinizle birlikte çalışın.

Kullanmaya başlamak ve Cloud Apps için Defender'ı kullanmak için bu serideki önceki makalelere bakın.

Görev	Önerilen kaynaklar
Cloud Apps için Microsoft Defender ile yapay zeka uygulamalarını bulma, tasdik etme ve engelleme	Bkz. Yapay zeka uygulamalarını ve verilerini bulma bölümünde 2. Adım
Cloud Apps için Defender'ı kullanarak yapay zeka uygulamalarının kullanımını önceliklendirme ve koruma	Bkz. Yapay zeka uygulamalarını ve verilerini koruma bölümünde yapay zeka için tehdit korumasından en iyi şekilde yararlanın

3. Adım: Yapay zeka iş yükleri için Bulut Güvenliği Duruş Yönetimi'ni (CSPM) kullanma

Uyumluluk riskine göre özel olarak oluşturulmuş uygulamaları keşfetmek ve yönetmek için Bulut için Microsoft Defender'da Defender Bulut Güvenliği Duruş Yönetimi (CSPM) planını kullanın. Cloud Apps için Defender'da olduğu gibi mevzuat uyumluluğu da yapay zeka için CSPM ile özel oluşturulmuş uygulamalarınızın riskini önceliklendirmek ve değerlendirmek için ek ölçütler sunar.

Uyumluluk yükümlülüklerinizi özel olarak oluşturulmuş uygulamalarınızın riskini değerlendirme ve yönetme ölçütleriyle tümleştirmek için Bulut için Defender ekibinizle birlikte çalışın.

Bulut için Defender'ı kullanmaya başlamak ve kullanmak için bu serideki önceki makalelere bakın.

Görev	Önerilen kaynaklar
Bulut için Microsoft Defender ile ortamınızda dağıtılan yapay zeka iş yüklerini keşfedin ve güvenlik içgörüleri elde edin	Bkz. Yapay zeka uygulamalarını ve verilerini bulma bölümünde 3. Adım]
Bulut için Defender'da yapay zeka korumaları uygulama	Yapay zeka uygulamalarını ve verilerini koruma bölümünde yapay zeka için tehdit korumasından en iyi şekilde yararlanın başlıklı 2. Adıma bakın

4. Adım— Purview İletişim Uyumluluğunu Yapılandırma

Kuruluşunuzdaki uygunsuz olabilecek iletileri algılamanıza, yakalamanıza ve bu iletiler üzerinde işlem yapmanıza yardımcı olarak iletişim risklerini en aza indirmek için Purview İletişim Uyumluluğunu yapılandırın. Üretken yapay zeka için, uygunsuz veya riskli etkileşimleri algılamaya veya gizli bilgilerin paylaşılmasında yardımcı olmak üzere, üretken yapay zeka uygulamalarına girilen etkileşimleri (istemler ve yanıtlar) analiz etmek için iletişim uyumluluk ilkelerini kullanabilirsiniz. Microsoft 365 Copilot, Microsoft Copilot Studio kullanılarak oluşturulan Copilot'lar, Microsoft Entra veya Microsoft Purview Veri Haritası bağlayıcılarıyla bağlanan yapay zeka uygulamaları ve benzeri için kapsam desteklenir.

Başlamak için aşağıdaki kaynakları kullanın.

Görev	Önerilen kaynaklar
Hakkında bilgi edinin ve başlayın.	İletişim uyumluluğu hakkında daha fazla bilgi edinme İletişim uyumluluğunu planlama İletişim uyumluluğunu kullanmaya başlama
Politikaları yapılandırma	Üretken yapay zeka etkileşimlerini algılamak için bir iletişim uyumluluk ilkesi yapılandırma İletişim uyumluluğu ilkeleri oluşturma ve yönetme

5. Adım— Purview Veri Yaşam Döngüsü Yönetimini Yapılandırma

Microsoft Purview Veri Yaşam Döngüsü Yönetimi, saklamanız gereken içeriği saklamanız ve saklamadığınız içeriği silmeniz için araçlar ve özellikler sağlar. Artık saklamanız gerekmeyen içeriği proaktif olarak silmek, yapay zeka araçlarında verilerin aşırı kullanım riskini azaltmaya yardımcı olur. Önemli özellikler şunlardır:

• Saklama ilkeleri ve saklama etiketleri
• Posta kutusu arşivleme ve etkin olmayan posta kutuları—Kullanıcı posta kutuları Copilot istemleri ve yanıtları içeren gizli bir klasör içerir

Başlamak için aşağıdaki kaynakları kullanın.

Görev	Önerilen kaynaklar
Hakkında bilgi edinin ve kullanmaya başlayın	Microsoft Purview Veri Yaşam Döngüsü Yönetimi hakkında bilgi edinin Veri yaşam döngüsü yönetimini kullanmaya başlama

6. Adım: Microsoft 365 Copilot için denetim günlükleriyle birlikte eKeşif'i kullanma

Microsoft Purview eKeşif'i kullanarak Copilot istemlerinde ve yanıtlarında uygunsuz olabilecek anahtar sözcükleri arayın. Bu bilgileri, devam eden bir yasal araştırma için gözden geçirmek, dışarı aktarmak veya beklemeye almak için bir eBulma olayına da ekleyebilirsiniz.

Microsoft Purview denetim günlüklerini kullanarak Copilot etkileşimlerinin nasıl, ne zaman ve nerede gerçekleştiğini ve bu öğelerdeki duyarlılık etiketleri de dahil olmak üzere hangi öğelere erişildiğini belirleyin.

Görev	Önerilen kaynaklar
Copilot kullanım verilerinin nerede depolandığını ve bunları nasıl denetleyebileceğinizi öğrenin	Microsoft 365 Copilot veri koruma ve denetim mimarisi
eKeşif'i kullanmaya başlama	eDiscovery çözümleri hakkında bilgi alın
Purview denetim günlükleri hakkında bilgi edinin	Microsoft Purview'da denetim çözümleri hakkında bilgi edinin

7. Adım— Priva Gizlilik Değerlendirmelerini Kullanma

Oluşturduğunuz yapay zeka uygulamaları için gizlilik etkisi değerlendirmeleri başlatmak için Priva Gizlilik Değerlendirmelerini (önizleme) kullanın. Bu, yapay zeka uygulamalarının gizliliğe saygılı bir şekilde derlenmesini sağlamaya yardımcı olur. Gizlilik Değerlendirmeleri, tüm veri varlığınızda kişisel veri kullanımını bulma, belgeleme ve değerlendirme süreçlerini otomatikleştirir.

Priva Gizlilik Değerlendirmelerini kullanmaya başlamak ve bir gizlilik etkisi değerlendirmesi başlatmak için aşağıdaki kaynakları kullanın.

Görev	Önerilen kaynaklar
Hakkında bilgi edinin ve kullanmaya başlayın	Gizlilik değerlendirmeleri hakkında bilgi edinin Gizlilik değerlendirmelerini kullanmaya başlama
Değerlendirme oluşturma	Gizlilik değerlendirmeleri oluşturma ve yönetme

8. Adım: AI Foundry'de yapay zeka raporlarını kullanma

Azure AI Foundry'deki yapay zeka raporları, geliştiricilerin proje ayrıntılarını belgelediklerine yardımcı olabilir. Geliştiriciler model kartları, model sürümleri, içerik güvenliği filtresi yapılandırmaları ve değerlendirme ölçümleri gibi yapay zeka projesinin tüm ayrıntılarını gösteren bir rapor oluşturabilir. Bu rapor PDF veya SPDX biçimlerinde dışarı aktarılarak geliştirme ekiplerinin idare, risk ve uyumluluk (GRC) iş akışları içinde üretime hazır olma durumunu göstermesine yardımcı olabilir ve üretimdeki uygulamaların daha kolay ve sürekli denetlenmelerini kolaylaştırabilir.

Başlamak için aşağıdaki kaynakları kullanın.

Görev	Önerilen kaynaklar
AI Foundry'de Yapay Zeka Raporları hakkında bilgi edinin (blog)	Yapay zeka raporları: Tutarlı belgelerle yapay zeka idaresini ve GenAIOps'ı geliştirme
AI Foundry hakkında bilgi edinin ve kullanmaya başlayın	Azure AI Foundry nedir?

9. Adım: Azure AI İçerik Güvenliğini Uygulama

Azure AI İçerik Güvenliği, uygulama ve hizmetlerde kullanıcı tarafından oluşturulan ve yapay zeka tarafından oluşturulan zararlı içerikleri algılayan bir yapay zeka hizmetidir. Azure AI İçerik Güvenliği, zararlı malzemeleri algılamanıza olanak sağlayan metin ve görüntü API'leri içerir. Etkileşimli Content Safety Studio, farklı yöntemlerdeki zararlı içeriği algılamak için örnek kodu görüntülemenize, keşfetmenize ve denemenize olanak tanır.

Başlamak için aşağıdaki kaynakları kullanın.

Görev	Önerilen kaynaklar
Hakkında bilgi edinin ve kullanmaya başlayın	Azure AI İçerik Güvenliği nedir? - Azure AI hizmetleri | Microsoft Learn Azure AI Foundry portalında İçerik Güvenliği'ni kullanma

Yapay zekanın güvenliğini sağlamak için sonraki adım

Sıfır Güven kaynaklarıyla uçtan uca güvenlikte ilerlemeye devam edin:

• Sıfır Güven kılavuz merkezi
• Sıfır Güven benimseme çerçevesi
• Microsoft 365 ile Sıfır Güven dağıtım planı
• XDR ve tümleşik SIEM ile olay yanıtı
• Azure hizmetlerine Sıfır Güven ilkeleri uygulama