Microsoft Sıfır Güven Atölyesi'nde yapay zeka güvenliği

Yapay zeka mevcut güvenlik risklerini güçlendirir ve kimlikler, veriler, uygulamalar ve kullanıcı etkileşimleri arasında yeni riskler ve önemli noktalar sunar. Bu riskler Sıfır Güven ilkeleri kullanılarak ele alınabilir.

Yapay zekanın güvenliğini sağlamak yalnızca temel yapay zeka modellerini ve hizmetlerini korumakla ilgili değildir. Ayrıca yapay zeka sistemine erişimin, kullanımın ve idarenin Sıfır Güven ilkelerle uyumlu olduğundan emin olmamız gerekir.

Yapay zeka temel kılavuzu yapay zeka kullanımına görünürlük sağlamaya, güçlü kimlik ve erişim denetimlerini zorunlu kılmaya, istemler ve çıkışlar arasında verileri korumaya, aracı geliştirme ve çalışma zamanı ortamlarının güvenliğini sağlamaya ve yapay zeka sinyallerini güvenlik operasyonlarıyla tümleştirmeye odaklanır.

Atölye uygulaması

Yapay zeka atölyesi, tabloda özetlenen uygulama alanlarını kapsar.

Area	Ayrıntılar
Yapay zeka riskini eşleme ve değerlendirme	Kuruluş genelinde yapay zeka aracılarını, uygulamalarını ve hizmetlerini keşfedin ve envanterini oluşturun. Merkezi güvenlik içgörülerini kullanarak yapay zeka risklerini değerlendirin, envanteri gözden geçirin ve bulguların önceliklerini belirleyin, idare, sahiplik ve kabul edilebilir kullanım ilkeleri oluşturun. Gelişen yapay zeka risklerine yönelik sürekli izleme ve düzeltme uygulama.
Ajanları kaydet	Görünürlüğü ve denetimi korumak için yapay zeka aracılarını merkezi bir kayıt defterine kaydedin. Aracıları amaç ve risk temelinde sınıflandırma ve düzenleme, sahiplik ve sorumluluk atama ve yayımlama, sertifikasyon ve yaşam döngüsü tanımlama
Güvenli yapay zeka kimlik doğrulaması ve erişimi	Yapay zeka sistemleri ve aracıları için kimlik tabanlı erişim denetimlerini zorunlu kılma. Yalnızca yetkili kullanıcıların ve hizmetlerin yapay zeka kaynaklarıyla etkileşime geçebilmesini sağlamak için Koşullu Erişim, risk tabanlı ve öznitelik tabanlı ilkeler ve kimlik idaresi süreçleri uygulayın.
Güvenli yapay zeka ağ erişimi	Yapay zeka hizmetlerine ağ üzerinden nasıl erişilir denetleyin. Güvenli erişim denetimleri aracılığıyla trafiği yönlendirin, yapay zeka etkileşimleri için filtreleme ve inceleme ilkeleri uygulayın ve istem ekleme ve yetkisiz erişim yolları gibi risklere karşı koruma sağlayın.
Güvenli yapay zeka veri erişimi	Yapay zeka istemleri, topraklama ve çıkışlarda kullanılan hassas verileri koruyun. Sınıflandırma, etiketleme ve DLP ilkeleri uygulayın, bağlı veri kaynaklarına erişimi denetleyin ve yapay zeka etkileşimlerinde fazla paylaşım ve veri açığa çıkarma risklerini izleyin.
Aracıları güvenli bir şekilde oluşturma	Kimlik doğrulaması, yetkilendirme ve veri işleme standartlarını zorunlu kılarak yapay zeka aracılarının geliştirilmesini ve dağıtımını güvence altına alın. İçerik güvenliği denetimlerini entegre edin, doğrulama ve red teaming yapılmasını zorunlu kılın ve güvenli yayımlama ve devreye alma süreçleri oluşturun.
Yapay zeka için algılama ve yanıtlama	Yapay zeka etkinliğini izleyin ve kötüye kullanım, anomaliler ve istem tabanlı saldırılar gibi tehditleri algılayın. Yapay zeka sinyallerini güvenlik operasyonlarıyla tümleştirin, araştırma ve yanıt iş akışlarını etkinleştirin, algılama ve yanıt özelliklerini sürekli geliştirin.

Sonraki Adımlar

Yapay zeka atölyesine başlayın.