Not
Bu sayfaya erişim yetkilendirme gerektiriyor. Oturum açmayı veya dizinleri değiştirmeyi deneyebilirsiniz.
Bu sayfaya erişim yetkilendirme gerektiriyor. Dizinleri değiştirmeyi deneyebilirsiniz.
Bu makalede, Azure üzerinde yapay zeka iş yükleri çalıştıran kuruluşlar için güvenlik önerileri sağlanır. Kılavuz, Microsoft Foundry de dahil olmak üzere Azure üzerindeki yapay zeka platform hizmetlerine odaklanır.
Yapay zeka kaynaklarının güvenliğini sağlama
Yapay zeka iş yüklerinizi destekleyen Azure kaynaklarını koruyun. Standartlaştırılmış güvenlik denetimleriyle başlayın, ardından kullandığınız yapay zeka hizmetlerine göre hizmete özgü yönergeler uygulayın.
Azure güvenlik temellerini uygulayın. Azure güvenlik temelleri, Azure hizmetleri için önerilen güvenlik denetimleri sağlar. Yapay zeka iş yüklerinizi destekleyen hizmetler için Azure güvenlik temellerini kullanın.
Azure Well-Architected Framework güvenlik yönergelerini izleyin. Yapay zeka iş yüklerinizin güvenlik gereksinimlerini değerlendirmek için Well-Architected Framework'ü kullanın. Hizmete özgü öneriler için ilgili Azure Hizmet Kılavuzlarını gözden geçirin.
Güvenli yapay zeka modelleri
Yapay zeka modellerini davranışlarını manipüle edebilen veya bunları kullanan iş yüklerinin güvenliğini tehlikeye atabilecek tehditlere karşı koruyun. Bu riskleri azaltmak için tehdit koruması ve model korumaları kullanın. Şunu yapabilirsiniz:
Bulut için Microsoft Defender kullanın. Yapay zeka ortamınız için geçerli Defender for Cloud korumalarını etkinleştirin. Güvenlik önerilerini gözden geçirin ve kuruluşunuzun güvenlik gereksinimlerine göre riskleri ele alın. Bkz. Microsoft Defender for Cloud yapay zeka tehdit koruması.
Modelleri ve aracıları istem enjeksiyonuna karşı koruyun. Model yönergelerini geçersiz kılmaya veya model davranışını manipüle etmeye çalışan girişleri algılamak için Prompt Shields'i kullanın. Kullanıcı istemlerine ve modellerin veya aracıların işlediği dış içeriğe koruma uygulayın. Microsoft Foundry'de, koruma denetimleri aracılığıyla İstem Kalkanlarını yapılandırın. Bkz. İstem Kalkanları.
Güvenilir model kaynaklarını kullanın. Modelleri seçmek ve dağıtmak için yönetişim oluşturun. Bir modeli kurumsal kullanım için onaylamadan önce model sağlayıcısını ve güvenlik gereksinimlerini değerlendirin. Dış veya topluluk kaynaklarından modellere ek inceleme uygulayın.
Güvenli yapay zeka erişimi
Kimlere veya neye erişim gerektiği temelinde yapay zeka kaynaklarına erişimi denetleme. Yetkisiz erişimi azaltmak için kimlik tabanlı kimlik doğrulaması ve en az ayrıcalık ilkesi kullanın. Kullanıcılara, yapay zeka aracılarına ve Azure hizmetlerine uygun denetimleri uygulayın. Şunu yapabilirsiniz:
Microsoft Entra ID ile kullanıcıların kimliğini doğrulayın. Azure hizmeti desteklediğinde API anahtarları yerine Microsoft Entra ID kullanın. Kimlik tabanlı kimlik doğrulaması, yapay zeka kaynaklarına kimlerin erişebileceği üzerinde merkezi bir denetim sağlar ve depolanan kimlik bilgilerine olan güveni azaltır. Bir hizmet anahtar gerektiriyorsa, bunları koruyun ve düzenli olarak döndürün.
Yapay zeka ajanlarına kendi yönetişimli kimliklerini verin. Her ajanın nelere erişebileceğini denetleyebilmeniz için yapay zeka ajanlarına kimlikler atayın. Aracı kimliklerini yönetmek ve erişimlerini denetlemek için Microsoft Entra Aracı Kimliği kullanın. Microsoft Foundry, kimlik bilgilerini istemlerde veya kodda depolamadan aracıların alt kaynaklara erişmek için kullandığı aracı kimlikleri sağlayabilir. Bkz. Microsoft Foundry'de Ajans kimlik kavramları.
Ajan araçlarını ve izinlerini kısıtlayın. Her aracıya yalnızca onaylanan görevleri için gereken araçlara ve kaynaklara erişim verin. Aşağı akış çağrılarını doğrulamak için aracının kimliğini kullanın ve bu kimliğe en az ayrıcalık izinleri verin. Aracı özellikleri değiştikçe izinleri gözden geçirin.
Yapay zeka verilerinin güvenliğini sağlama
Her yapay zeka iş yükünün erişebileceği verileri denetleme. Açık veri sınırları tanımlayın ve yetkisiz veri erişimini veya açığa çıkışı azaltmak için yönetişim kontrolleri uygulayın. Şunu yapabilirsiniz:
Yapay zeka iş yükleri için veri sınırları tanımlayın. Her uygulamanın veya aracının amacına ve izinlerine göre erişebileceği verileri belirleyin. Bir yapay zeka iş yükünün onaylanmış kapsamının dışındaki verileri alamaması için kimlik ve veri erişim denetimleri aracılığıyla bu sınırları uygulayın.
Verileri güvenlik gereksinimlerine göre yalıtın. Yapay zeka iş yüklerinin güvenlik veya uyumluluk gereksinimlerine göre ayrı veri ortamları gerektirip gerektirmediğini belirleyin. İş yüklerinin aynı verilere erişimi paylaşmaması gerektiğinde mantıksal veya fiziksel yalıtım kullanın.
Veri güvenliği kontrollerini uygulayın. Yapay zeka iş yüklerinin kullandığı verileri güvenlik ve uyumluluk gereksinimlerine göre koruyun. Yapay zeka ve analiz için veri güvenliği bölümüne bakın.