Güvenli ve uyumlu Microsoft Foundry veya özel yapay zeka uygulamaları geliştirme ve dağıtma

Güvenlik ve uyumluluk, kurumsal yapay zekanın benimsenmesi için gereklidir. Kurumsal müşteriler yapay zeka uygulamalarının tasarım gereği güvenli olmasını ve hem iç ilkelere hem de dış düzenlemelere uymasını bekler.

Bu beklentilerin karşılanmaması aşağıdakilere neden olabilir:

  • Güvenlik ve uyumluluk gözden geçirmeleri sırasında reddetme.
  • Veri sızıntıları veya diğer zararlı yapay zeka davranışları.
  • Müşteri güveni kaybı ve daha az benimseme.

Yapay zekayı sorumlu bir şekilde ölçeklendirmek için kuruluşların güçlü veri güvenliği ve idare temeli üzerine inşa etmesi gerekir. Yapay zeka uygulamaları hassas kurumsal verileri giderek daha fazla işlediğinden, geliştiricilerin tasarım ve uygulama sırasında geliştirme yaşam döngüsünün başlarında güvenlik ve uyumluluk denetimlerini dahil etmesi gerekir.

Microsoft Purview, Microsoft Foundry ve diğer yapay zeka platformlarının model veya dağıtım platformundan bağımsız olarak kurumsal düzeyde veri güvenliği ve idare denetimlerini özel yapay zeka uygulamaları ve aracılarıyla tümleştirmesini sağlayan API'ler ve hizmetler sağlar.

Bu makalede geliştiricilerin, Microsoft Foundry, Agent Framework veya özel yapay zeka uygulamaları kullanılarak oluşturulan yapay zeka uygulamalarında ve aracılarında veri güvenliği ve uyumluluk gereksinimlerini desteklemek için Microsoft Purview ile nasıl tümleştirebileceği açıklanmaktadır. Aşağıdaki tabloda, Microsoft Purview senaryoları ve geliştiricilerin her senaryo için hangi seçenekleri seçmesi gerektiği özetlenmiştir.

Scenario Microsoft Dökümhanesi Ajanda Çerçevesi Microsoft Purview API'leri
Yapay zeka uygulamaları tarafından çalışma zamanında kullanılan verileri yönetme Destekleniyor Destekleniyor Destekleniyor
Veri sızıntılarına ve şirket içi risklere karşı koruma Desteklenmiyor Destekleniyor Destekleniyor
Fazla veri paylaşımını önleme Desteklenmiyor Desteklenmiyor Destekleniyor

Yapay zeka uygulamaları tarafından çalışma zamanında kullanılan verileri yönetme

Aşağıdaki Microsoft Purview özellikleri yapay zeka uygulamaları için veri idaresi sağlamak için kullanılabilir:

  • Hassas veri kullanımı, riskli davranışlar ve etik olmayan yapay zeka etkileşimleri için gerçek zamanlı analiz.
  • İzlenebilirlik denetimi.
  • Zararlı veya yetkisiz içeriği algılamak için İletişim Uyumluluğu.
  • Yasal ve mevzuat gereksinimleri için Veri Yaşam Döngüsü Yönetimi ve eBulma.

Aşağıdaki seçenekleri kullanarak bu Microsoft Purview özelliklerini Microsoft Foundry veya özel yapay zeka uygulamanızla tümleştirebilirsiniz:

  • Microsoft Purview'un Microsoft Foundry ile Yerel Tümleştirmesi (önerilir): Microsoft Foundry’de modeller kullanırken, denetim ve ilgili yönetişim sonuçları için Microsoft Foundry’ye yerleşik Microsoft Purview ayarlarını kullanın. Azure Yöneticiler belirli bir Azure aboneliği için ayarı açabilir. Geliştiricilerinizin gerçekleştirmesi gereken bir işlem yoktur. Bu ayar, idare ve uyumluluk sonuçlarını desteklemek için bu abonelikte çalışan tüm Azure yapay zeka tabanlı uygulamalardan verilerin Microsoft Purview gönderilmesini sağlar. Ayarı açma hakkında daha fazla bilgi için bkz. Microsoft Purview ile Azure yapay zeka için Veri Güvenliğini Etkinleştirme.

  • API'leri kullanma: Microsoft Dökümhane geliştiricileri yapay zeka uygulamalarından gelen istem ve yanıt verilerini program aracılığıyla Microsoft Purview göndermek için Microsoft Graph'daki Microsoft Purview API'lerini kullanabilir.

    API tabanlı tümleştirme için şu API'leri kullanın:

    Daha fazla bilgi için bkz. Microsoft Graph Microsoft Purview API'lerini kullanma.

  • Aracı Çerçevesi: Microsoft Agent Framework kullanarak aracılar oluşturuyorsanız, aracılarınızın güvenliğini sağlamak için Microsoft Purview özellikleri ekleyebilirsiniz. Bu özellikler aracıya veri güvenliği ve uyumluluk ekler. Ajanınızın middleware işlem hattına Microsoft Purview ilke ara katman yazılımını ekleyin:

    • İstemleri ve yanıtları yakalayın ve Microsoft Purview'a iletin.
    • kuruluşunuzun DLP ilkelerini Microsoft Purview uygulayın.

    Daha fazla bilgi için bkz. Agent Framework ile Microsoft Purview SDK'si kullanma.

Veri sızıntılarına ve şirket içi risklere karşı koruma

Geliştiriciler, uygulamalarında Microsoft Purview Veri Kaybı Önleme (DLP) ilkeleri uygulamak için Agent Framework veya Microsoft Purview API'lerini kullanabilir.

Aracı Çerçevesi: Microsoft Agent Framework kullanarak aracılar oluşturuyorsanız, aracılarınızın güvenliğini sağlamak için Microsoft Purview özellikleri ekleyebilirsiniz. Bu özellikler aracıya veri güvenliği ve uyumluluk ekler. Aracınızın ara yazılım işlem hattına Microsoft Purview ilkesi ara yazılımını ekleyin:

  • İstemleri ve yanıtları yakalayıp Microsoft Purview'a iletin.
  • kuruluşunuzun DLP ilkelerini Microsoft Purview uygulayın.

Daha fazla bilgi için bkz. Agent Framework ile Microsoft Purview SDK'si kullanma.

API'leri kullanma: Bu seçenek uygulamaların yapay zeka uygulamaları ve aracılarındaki davranışı Microsoft Purview'da ayarlanan ilkelere göre anlamasına ve zorlamasına olanak tanır. Örneğin, Büyük Dil Modelleri (LLM' ler) ile paylaşılan hassas bilgileri koruyabilir veya yapay zeka uygulamalarınızdaki riskli kullanıcılarla paylaşılan hassas bilgileri denetleyebilirsiniz.

API tabanlı tümleştirme için şu API'leri kullanın:

Important

DLP tümleştirmesini test etmek üzere Microsoft Purview'de yeni bir DLP ilkesi ayarlamak için cmdlet'ini New-DlpComplianceRule çalıştırın. Daha fazla bilgi için bkz. New-DlpComplianceRule.

Azure AI kod örneği:

Fazla paylaşımı önleme

Verilere duyarlılık etiketleri uygulandığında aşırı paylaşım verileri kısıtlanır. Geliştiriciler, LLM'ler tarafından yanıt oluşturmak için kullanılan verilere uygulanan duyarlılık etiketlerini uygulamak için Microsoft Purview API'leri veya Azure Yapay Zeka Arama kullanabilir. Bu seçeneklerin her ikisi de yapay zeka tarafından oluşturulan yanıtların erişim denetimlerine uygun olmasını, verilerin fazla paylaşılmasını engellemesini ve kullanıcıları, yapay zeka uygulama ortamı dışında olduğu gibi görüntüleme yetkisine sahip oldukları içerikle sınırlandırmasını sağlar.

duyarlılık etiketi dizini Microsoft Purview etkinleştirildiğinde, Azure Yapay Zeka Arama belge etiketi meta verilerini sorgu zamanında denetler, Microsoft Purview ilkelerine göre erişim filtreleri uygular ve yalnızca istekte bulunan kullanıcının erişmesine izin verilen sonuçları döndürür.

Bu senaryoyu oluştururken aşağıdaki API'lerden herhangi birini kullanabilirsiniz:

  • Last updated on