Üretime dayalı yapay zeka yapıtlarının dağıtım öncesi risklerini keşfetme

Bulut için Microsoft Defender'deki Defender Cloud Security Posture Management (CSPM) planı, kapsayıcı görüntüleri ve kod depoları gibi yapay zeka yapıtlarınızda bulunan üretken yapay zeka kitaplıklarındaki güvenlik açıklarını belirleyerek, üretken yapay zeka uygulamalarının güvenlik duruşunu geliştirmenize yardımcı olur. Bu makalede, bu uygulamaların güvenlik risklerini keşfetme, tanımlama açıklanmaktadır.

Önkoşullar

• Yapay zeka güvenlik duruşu yönetimi hakkında bilgi edinin.

• Bulut güvenlik gezgini ve saldırı yolları ile riskleri araştırma hakkında daha fazla bilgi edinin.

• Microsoft Azure aboneliğiniz olması gerekir. Azure aboneliğiniz yoksa ücretsiz aboneliğe kaydolabilirsiniz.

• Azure aboneliğinizde Bulut için Defender etkinleştirin.

• Azure aboneliğinizde Defender Cloud Security Posture Management'ı (CSPM) etkinleştirin.

• Azure AI Studio aracılığıyla en az bir model dağıtımının bağlı olduğu en az bir Azure OpenAI kaynağınız vardır.

Güvenlik açığı oluşturan yapay zeka kapsayıcısı görüntülerinde çalışan kapsayıcıları tanımlama

Bulut güvenlik gezgini, bilinen güvenlik açıklarına sahip üretken yapay zeka kapsayıcı görüntüleri çalıştıran kapsayıcıları tanımlamak için kullanılabilir.

1. Azure Portal’ında oturum açın.

2. Bulut için Microsoft Defender> Cloud Güvenlik Gezgini'nin aramasını yapın ve seçin.

3. Bilinen Üretken Yapay Zeka güvenlik açıkları sorgu şablonuyla kapsayıcı görüntülerini çalıştıran kapsayıcıyı seçin.

   

4. Ara'yı seçin.

5. Ayrıntılarını gözden geçirmek için bir sonuç seçin.

   

6. Bulguları gözden geçirmek için bir düğüm seçin.

   

7. İçgörüler bölümünde açılan menüden bir CVE kimliği seçin.

8. Güvenlik açığı sayfasını aç'ı seçin.

9. Öneriyi düzeltin.

Güvenlik açığı bulunan yapay zeka kod depolarını belirleme

Bulut güvenlik gezgini, Azure OpenAI sağlayan güvenlik açığı oluşturan yapay zeka kod depolarını tanımlamak için kullanılabilir.

1. Azure Portal’ında oturum açın.

2. Bulut için Microsoft Defender> Cloud Güvenlik Gezgini'nin aramasını yapın ve seçin.

3. Azure OpenAI sorgu şablonunu sağlayan yapay zeka güvenlik açığı olan kod depolarını seçin.

   

4. Ara'yı seçin.

5. Ayrıntılarını gözden geçirmek için bir sonuç seçin.

   

6. Bulguları gözden geçirmek için bir düğüm seçin.

   

7. İçgörüler bölümünde açılan menüden bir CVE kimliği seçin.

8. Güvenlik açığı sayfasını aç'ı seçin.

9. Öneriyi düzeltin.

İlgili içerik

• Genel Bakış - Yapay zeka tehdit koruması
• Güvenlik önerilerini gözden geçirme
• Saldırı yollarını tanımlama ve düzeltme