AI Red Teaming Agent'ı bulutta çalıştırma (önizleme)

2025-06-03

Önemli

Bu makalede işaretlenen (önizleme) öğeler şu anda genel önizleme aşamasındadır. Bu önizleme, hizmet düzeyi sözleşmesi olmadan sağlanır ve üretim iş yükleri için önerilmez. Bazı özellikler desteklenmiyor olabileceği gibi özellikleri sınırlandırılmış da olabilir. Daha fazla bilgi için bkz. Microsoft Azure Önizlemeleri için Ek Kullanım Koşulları.

Güvenlik risklerini tanımlamaya yardımcı olmak için prototip oluşturma ve geliştirme sırasında yapay zeka Kırmızı Ekip Oluşturma Aracısı (önizleme) yerel olarak çalıştırılabilir, ancak bunları bulutta çalıştırmak, daha kapsamlı bir analiz için daha büyük saldırı stratejileri ve risk kategorileri kombinasyonlarında dağıtım öncesi yapay zeka kırmızı ekip oluşturma çalıştırmalarına olanak tanır.

Önkoşullar

Uyarı

Bu özellik için Foundry projesi kullanmanız gerekir. Hub tabanlı bir proje desteklenmez. Bkz. Ne tür bir projem olduğunu nasıl bilebilirim? ve Dökümhane projesi oluşturma.

Değerlendirmeleri ilk kez çalıştırıyorsanız veya Azure AI Foundry projenizde AI kırmızı ekip çalışmaları yapıyorsanız, birkaç ek kurulum adımı atmanız gerekebilir.

Depolama hesabınızı oluşturun ve kaynak düzeyinde Azure AI Foundry projenize bağlayın. Bu bicep şablonu, anahtar ile kimlik doğrulama kullanarak bir depolama hesabı sağlar ve Foundry projenizle bağlantı kurar.
Bağlı depolama hesabının tüm projelere erişimi olduğundan emin olun.
Depolama hesabınızı Microsoft Entra Id ile bağladıysanız Azure portalında hem hesabınıza hem de Dökümhane proje kaynağınıza Depolama Blobu Veri Sahibi için MSI (Microsoft Identity) izinleri verdiğinizden emin olun.

Başlangıç Yapmak

İlk olarak Azure AI Foundry SDK'sının bulutta AI Red Teaming Agent çalıştıran proje istemcisini yükleyin

uv install azure-ai-projects azure-identity

Uyarı

Daha ayrıntılı bilgi için REST API Başvuru Belgeleri'ne bakın.

Ardından Azure AI Foundry kaynaklarınız için ortam değişkenlerinizi ayarlayın

import os

endpoint = os.environ["PROJECT_ENDPOINT"] # Sample : https://<account_name>.services.ai.azure.com/api/projects/<project_name>
model_endpoint = os.environ["MODEL_ENDPOINT"] # Sample : https://<account_name>.services.ai.azure.com
model_api_key= os.environ["MODEL_API_KEY"]
model_deployment_name = os.environ["MODEL_DEPLOYMENT_NAME"] # Sample : gpt-4o-mini

Desteklenen hedefler

AI Red Teaming Agent'ın bulutta çalıştırılması şu anda yalnızca Azure AI Foundry projenizde hedef olarak Azure OpenAI model dağıtımlarını destekler.

Yapay zeka kırmızı ekip çalışması başlatma

Piton
cURL

from azure.identity import DefaultAzureCredential
from azure.ai.projects import AIProjectClient
from azure.ai.projects.models import (
    RedTeam,
    AzureOpenAIModelConfiguration,
    AttackStrategy,
    RiskCategory,
)

with AIProjectClient(
  endpoint=endpoint,
  credential=DefaultAzureCredential(exclude_interactive_browser_credential=False),
) as project_client:

# Create target configuration for testing an Azure OpenAI model
target_config = AzureOpenAIModelConfiguration(model_deployment_name=model_deployment_name)

# Instantiate the AI Red Teaming Agent
red_team_agent = RedTeam(
    attack_strategies=[AttackStrategy.BASE64],
    risk_categories=[RiskCategory.VIOLENCE],
    display_name="red-team-cloud-run", 
    target=target_config,
)

# Create and run the red teaming scan
red_team_response = project_client.red_teams.create(red_team=red_team_agent, headers={"model-endpoint": model_endpoint, "api-key": model_api_key,})

curl --request POST \  --url https://{{account}}.services.ai.azure.com/api/projects/{{project}}/redteams/runs:run \  --header 'content-type: application/json' \  --header 'authorization: Bearer {{ai_token}}'  --data '{  "scanName": "sample_scan_magic_1",  "riskCategories": [    "Violence"  ],  "attackStrategy": [    "Flip"  ],  "numTurns": 1,  "target": {    "type": "AzureOpenAIModel",    "modelDeploymentName": "{{connectionName}}/{{deploymentName}}"  }}'

Yerine {{account}}, {{project}} Foundry Project hesap adı ve proje adını koyun.
"{{ai_token}} öğesini, izleyici https://ai.azure.com olan Taşıyıcı belirteci ile değiştirin"
Foundry proje hesabına bağlı Azure OpenAI modeli bağlantı adıyla "{{connectionName}}" değerini değiştirin.
"{{deploymentName}}" ifadesini, AOAI bağlantı hesabının Azure OpenAI dağıtım adıyla değiştirin.

Yapay zeka kırmızı takım testi gerçekleştirme

Piton
cURL

# Use the name returned by the create operation for the get call
get_red_team_response = project_client.red_teams.get(name=red_team_response.name)
print(f"Red Team scan status: {get_red_team_response.status}")

curl --request GET \  --header 'authorization: Bearer {{ai_token}}'  --url https://{{account}}.services.ai.azure.com/api/projects/{{project}}/redteams/runs/{{scan_id}}

"{{scan_id}" değerini, POST API tarafından döndürülen kimlik ile değiştirin.

Tüm yapay zeka kırmızı grup oluşturma çalıştırmalarını listeleme

Piton
cURL

for scan in project_client.red_teams.list():
  print(f"Found scan: {scan.name}, Status: {scan.status}")

curl --request GET \  --header 'authorization: Bearer {{ai_token}}'  --url https://{{account}}.services.ai.azure.com/api/projects/{{project}}/redteams/runs

Yapay zeka kırmızı grup oluşturma çalıştırmanız tamamlandıktan sonra sonuçlarınızı Azure AI Foundry projenizde görüntüleyebilirsiniz .

GitHub örneklerimizde örnek bir iş akışı deneyin.

Aracılığıyla paylaş