Sıfır Güven ile yapay zekanın güvenliğini sağlama

Yapay zeka sistemleri artık yapay zeka uygulamaları, aracılar, modeller ve kullandıkları veri ve hizmetler de dahil olmak üzere temel kurumsal teknoloji varlıklarının bir parçasıdır. Kuruluşlar yapay zekayı benimsedikçe, bu sistemler uçtan uca güvenlik mimarisinin bir parçası olarak yönetilmesi gereken yeni erişim yolları, bağımlılıklar ve risk koşulları sunar.

Microsoft Güvenlik Benimseme Çerçevesi'nde (SAF), yapay zeka sütunu yapay zeka iş yüklerine ve işlemlerine Sıfır Güven ilkeler uygular: açıkça doğrulayın, en az ayrıcalık kullanın ve risk altında olduğunuzu varsayın. Bu kılavuz, iş sonuçlarını, operasyonel güvenilirliği ve sürekli iyileştirmeyi desteklerken yapay zeka özelliklerini korumanıza yardımcı olur.

Bu teknoloji sütunu neleri kapsar?

Bu yapı, yapay zeka sistemlerini iş yükleri ve iş açısından kritik kaynaklar olarak güvenli hale getirme konusuna odaklanır:

  • Yapay zeka uygulamaları ve sistemleri
  • Yapay zeka ajanları ve ajan çalışma zamanları
  • Yapay zeka ve aracı kimlikleri
  • Modeller, istemler ve bağlam
  • Topraklama, eğitim ve çıkarım için kullanılan veriler
  • Araçlar, eklentiler, bağlayıcılar ve dış bağımlılıklar
  • Aracılar arası ve aracı-hizmet arası iletişimi
  • Yapay zeka altyapısı ve barındırma ortamları

Yapay zeka için temel Sıfır Güven denetim alanları

Bu yapıyı, yapay zeka güvenlik atölyesindeki uygulama alanlarına uygun olarak bu alanlarda denetimleri planlamak ve uygulamak için kullanın:

  1. Yapay zeka riskini eşleme ve değerlendirme
    • Yapay zeka uygulamalarını, aracılarını ve hizmetlerini keşfedin ve envantere ekleyin.
    • Riskleri önceliklendirin ve sahiplik, yönetişim ve kabul edilebilir kullanım kurallarını belirleyin.
    • Risk sinyallerini sürekli izleyin ve kullanım evrildikçe öncelikleri ayarlayın.
  2. Aracıları kaydedin ve yaşam döngüsü yönetimini uygulayın
    • Aracıları merkezi bir envantere kaydedin.
    • Aracıları amaca, iş açısından kritikliğe ve risklere göre sınıflandırın.
    • Sahiplik, yayımlama, sertifikasyon ve yaşam döngüsü denetimlerini tanımlayın.
  3. Güvenli yapay zeka kimlik doğrulaması ve erişimi
    • Kullanıcılar, hizmetler ve aracılar için güçlü kimlik doğrulaması ve yetkilendirme zorunlu kılın.
    • Aracı eylemlerinde en az ayrıcalık ve devredilen izinler uygulayın.
    • Erişimden önce ve erişim sırasında kimlik, cihaz ve risk sinyallerini sürekli olarak değerlendirin.
  4. Güvenli yapay zeka ağı ve hizmet erişimi
    • AI hizmetlerine ağ yolları ve hizmet sınırları boyunca nasıl erişileceğini denetleyin.
    • Yapay zeka etkileşimleri için segmentasyon, filtreleme ve inceleme uygulayın.
    • İstem enjeksiyonu ve yetkisiz erişim yollarına maruz kalma oranını azaltın.
  5. Yapay zeka veri erişiminin ve kullanımının güvenliğini sağlama
    • İstemler, bağlam, grounding ve çıkışlarda kullanılan verileri sınıflandırıp koruyun.
    • Aşırı paylaşım ve sızdırma riskini azaltmak için veri kaybı önleme ve kullanım denetimleri uygulayın.
    • Yapay zeka veri işleme için yönetişim ve uyumluluk ilkelerini zorunlu kılın.
  6. Aracıları güvenli bir şekilde oluşturma ve dağıtma
    • Yapay zeka uygulamalarını, API'leri, bağlayıcıları ve araç zinciri bağımlılıklarını güvence altına alın.
    • Üretim kullanımı öncesinde güven sınırlarını ve çalışma zamanı denetimlerini doğrulayın.
    • Yapay zeka özellikli sistemler için güvenli geliştirme, test ve yayın denetimleri uygulayın.
  7. Yapay zeka için algılama ve müdahale
    • Yapay zeka etkinliğini, istem akışlarını, erişim desenlerini ve araç kullanımını izleyin.
    • Kötüye kullanımı, anormal davranışları ve ilke ihlallerini algılayın.
    • Yapay zeka telemetrisini olay algılama, araştırma ve yanıt iş akışlarıyla tümleştirin.

Bu sütun SAF'a nasıl bağlanır?

Yapay zeka güvenliği, diğer SAF teknolojilerine ve güvenlik disiplinlerine dayanır:

Atölye ve uygulama kılavuzu