Yapay zeka modeli güvenliği

Önemli

Bu özellik şu anda önizleme aşamasındadır ve AI Hizmetleri için Microsoft Defender planına dahildir. Önizleme sırasında yapay zeka modeli tarama için ek ücret alınmaz. Ancak, AI Hizmetleri için Defender planını etkinleştirmek tehdit koruması özellikleriyle ilgili maliyetlere neden olabilir. Yapay zeka modeli tarama özelliğinin AI Hizmetleri için Defender bir parçası olarak sürekli eklenmesi, genel kullanıma sunulduğunda (GA) garanti değildir ve lisanslama gereksinimleri değişebilir. Bu durumda, özellik devre dışı bırakılmadan önce ilgili lisans kapsamında yeniden etkinleştirme seçenekleriyle bir bildirim gönderilir.

Kuruluşlar otomasyonu, içgörüleri ve akıllı karar alma sürecini yönlendirmek için yapay zeka (AI) modellerini giderek daha fazla kullanırken, güvenlik ekiplerinin ortamlarına giren yapay zeka modellerinin güvenliğini ve uyumluluğunu değerlendirmek için görünürlük ve denetime ihtiyacı vardır. Bu modeller genellikle verilere ve altyapıya geniş erişime sahiptir. Bu özellikler olmadan, iç standartları zorunlu kılmak giderek daha zor hale gelir.

Bulut için Microsoft Defender'nin yapay zeka güvenliğine yönelik Defender yapay zeka modeli taramasını destekler. Yapay zeka modeli tarama, güvenli olmayan veya kötü amaçlı yapıtların proaktif olarak algılanması sağlar ve yapay zeka yaşam döngüsü boyunca modelleri sürekli olarak risk açısından izler.

Yapay zeka modeli güvenliği, yapay zeka modellerini ekli kötü amaçlı yazılım, güvenli olmayan operatörler ve kullanıma sunulan gizli diziler gibi güvenlik riskleri için bu modeller üretime ulaşmadan önce otomatik olarak tarar. Azure Machine Learning ve CI/CD işlem hatlarıyla doğrudan tümleşik olan hizmet, ekiplerin riskli modelleri geliştirme sürecinin başlarında durdurabilmesi için gerçek zamanlı bulguları ve eyleme dönüştürülebilir düzeltme kılavuzunu ortaya çıkarmaktadır.

Güvenlik ekipleri yapay zeka modeli güvenliğini kullanarak Azure Machine Learning çalışma alanlarına ve kayıt defterlerine yüklenen özel yapay zeka modellerini tarayarak ekli kötü amaçlı yazılım, güvenli olmayan operatörler ve kullanıma sunulan gizli diziler gibi tehditleri belirleyebilir. Bulut için Defender sonuçları sunarak ekiplere önem dereceleri, düzeltme yönergeleri ve etkin önceliklendirmeyi ve öncelik belirlemeyi desteklemek üzere ilgili model meta verilerinin yanı sıra güvenlik bulgularına görünürlük sağlar. Geliştiriciler ayrıca Azure DevOps veya GitHub işlem hatlarıyla tümleştirilmiş CLI araçlarını kullanarak derleme veya yayın aşamalarında model taramalarını tetikleyebilir ve modeller üretime ulaşmadan önce statik taramayı ve erken risk algılamayı etkinleştirebilir.

Önkoşullar

• Azure Machine Learning (Azure Machine Learning) kayıt defterlerinde veya çalışma alanlarında kayıtlı yapay zeka modellerini içeren bir Azure aboneliğiniz olmalıdır.

Uyarı

Özel bağlantı kullanan çalışma alanları ve kayıt defterleri desteklenmez.

• Bulut için Defender Güvenlik Duruş Yönetimi planını etkinleştirin.

• Yapay zeka hizmetleri ve planın yapay zeka modeli güvenlik bileşeni için tehdit korumasını etkinleştirmeniz gerekir.

• Gerekli izinler: Planı etkinleştirmek için Azure Machine Learning kaynakları üzerinde Owner veya Contributor düzeyi izinlerine sahip olmanız gerekir.

• Desteklenen model dosyası biçimleri: Pickle (.pkl), HDF5 (.h5), TorchScript (.pt), ONNX (.onnx), , SafeTensors (.safetensors), TensorFlow SavedModel / TFLite (FlatBuffers)NumPy (.npy), Arrow, MsgPack, dill, joblib. PMML, JSON, POJO, MOJO, GGUF

• Dosya boyutu sınırı: 10 GB. 10 GB'tan büyük model dosyaları taranamaz.

• Tarama haftada bir kez gerçekleşir.

Ortamınızdaki tüm yapay zeka modellerini bulma

1. Azure portalında oturum açın.

2. Bulut için Microsoft Defender için arama yapın ve seçin.

3. Bulut Güvenlik Gezgini'ni seçin.

4. AI ve Mls> seçin.

   

5. Seç. Bitti.

6. +seçin.

7. Meta Veri>Yapay Zeka Modeli Meta Verileri'ne tıklayın.

   

8. Ara'yı seçin.

Bulut Güvenlik Gezgini ortamınızdaki tüm yapay zeka modellerini görüntüler. Seçilen her model hakkında daha fazla bilgi görmek için ayrıntıları görüntüle'yi seçebilirsiniz.

Güvenlik bulgularıyla yapay zeka modellerini bulma

Etkin güvenlik bulgularına sahip yapay zeka modellerini bulmak için Bulut Güvenlik Gezgini'ni kullanın.

1. Ortamınızdaki tüm yapay zeka modellerini bulma bölümündeki 1-7 arası adımları izleyin.

2. +seçin.

3. Öneriler>Tüm öneriler'i seçin.

   

4. Ara'yı seçin.

Bulut Güvenlik Gezgini, ortamınızdaki etkin güvenlik bulgularına sahip tüm yapay zeka modellerini görüntüler. Her model ve ilişkili bulgular hakkında daha fazla bilgi görmek için ayrıntıları görüntüle'yi seçin.

Ortamınızdaki tüm yapay zeka modellerini bulma

Defender portalı Assets sayfası ortamınızdaki tüm yapay zeka modellerinin kapsamlı bir görünümünü sağlar.

1. Microsoft Defender portalında oturum açın.

2. Varlıklar>Bulut>AI yapay zeka>modelleri'ne gidin.

   

3. Öneriler içeren bir yapay zeka modeli seçin.

   

4. Açık varlık sayfası'nı seçin.

   

5. Güvenlik önerilerinden> ilgili öneriyi seçin.

6. Güvenlik bulgularını gerektiği gibi gözden geçirin ve düzeltin.

Öneriyi Azure portalında da yönetebilirsiniz.

Sonraki adım

Bulut güvenlik gezgini ile sorgular oluşturun.