Not
Bu sayfaya erişim yetkilendirme gerektiriyor. Oturum açmayı veya dizinleri değiştirmeyi deneyebilirsiniz.
Bu sayfaya erişim yetkilendirme gerektiriyor. Dizinleri değiştirmeyi deneyebilirsiniz.
Önemli
Bu makalede işaretlenen (önizleme) öğeler şu anda genel önizleme aşamasındadır. Bu önizleme, hizmet düzeyi sözleşmesi olmadan sağlanır ve üretim iş yükleri için önerilmez. Bazı özellikler desteklenmiyor olabileceği gibi özellikleri sınırlandırılmış da olabilir. Daha fazla bilgi için bkz. Microsoft Azure Önizlemeleri için Ek Kullanım Koşulları.
Güvenlik risklerini tanımlamaya yardımcı olmak için prototip oluşturma ve geliştirme sırasında yapay zeka Kırmızı Ekip Oluşturma Aracısı (önizleme) yerel olarak çalıştırılabilir, ancak bunları bulutta çalıştırmak, daha kapsamlı bir analiz için daha büyük saldırı stratejileri ve risk kategorileri kombinasyonlarında dağıtım öncesi yapay zeka kırmızı ekip oluşturma çalıştırmalarına olanak tanır.
Önkoşullar
Uyarı
Bu özellik için Foundry projesi kullanmanız gerekir. Hub tabanlı bir proje desteklenmez. Bkz. Ne tür bir projem olduğunu nasıl bilebilirim? ve Dökümhane projesi oluşturma.
Değerlendirmeleri ilk kez çalıştırıyorsanız veya Azure AI Foundry projenizde AI kırmızı ekip çalışmaları yapıyorsanız, birkaç ek kurulum adımı atmanız gerekebilir.
- Depolama hesabınızı oluşturun ve kaynak düzeyinde Azure AI Foundry projenize bağlayın. Bu bicep şablonu, anahtar ile kimlik doğrulama kullanarak bir depolama hesabı sağlar ve Foundry projenizle bağlantı kurar.
- Bağlı depolama hesabının tüm projelere erişimi olduğundan emin olun.
- Depolama hesabınızı Microsoft Entra Id ile bağladıysanız Azure portalında hem hesabınıza hem de Dökümhane proje kaynağınıza Depolama Blobu Veri Sahibi için MSI (Microsoft Identity) izinleri verdiğinizden emin olun.
Başlangıç Yapmak
İlk olarak Azure AI Foundry SDK'sının bulutta AI Red Teaming Agent çalıştıran proje istemcisini yükleyin
uv install azure-ai-projects azure-identity
Uyarı
Daha ayrıntılı bilgi için REST API Başvuru Belgeleri'ne bakın.
Ardından Azure AI Foundry kaynaklarınız için ortam değişkenlerinizi ayarlayın
import os
endpoint = os.environ["PROJECT_ENDPOINT"] # Sample : https://<account_name>.services.ai.azure.com/api/projects/<project_name>
model_endpoint = os.environ["MODEL_ENDPOINT"] # Sample : https://<account_name>.services.ai.azure.com
model_api_key= os.environ["MODEL_API_KEY"]
model_deployment_name = os.environ["MODEL_DEPLOYMENT_NAME"] # Sample : gpt-4o-mini
Desteklenen hedefler
AI Red Teaming Agent'ın bulutta çalıştırılması şu anda yalnızca Azure AI Foundry projenizde hedef olarak Azure OpenAI model dağıtımlarını destekler.
Yapay zeka kırmızı ekip çalışması başlatma
from azure.identity import DefaultAzureCredential
from azure.ai.projects import AIProjectClient
from azure.ai.projects.models import (
RedTeam,
AzureOpenAIModelConfiguration,
AttackStrategy,
RiskCategory,
)
with AIProjectClient(
endpoint=endpoint,
credential=DefaultAzureCredential(exclude_interactive_browser_credential=False),
) as project_client:
# Create target configuration for testing an Azure OpenAI model
target_config = AzureOpenAIModelConfiguration(model_deployment_name=model_deployment_name)
# Instantiate the AI Red Teaming Agent
red_team_agent = RedTeam(
attack_strategies=[AttackStrategy.BASE64],
risk_categories=[RiskCategory.VIOLENCE],
display_name="red-team-cloud-run",
target=target_config,
)
# Create and run the red teaming scan
red_team_response = project_client.red_teams.create(red_team=red_team_agent, headers={"model-endpoint": model_endpoint, "api-key": model_api_key,})
Yapay zeka kırmızı takım testi gerçekleştirme
# Use the name returned by the create operation for the get call
get_red_team_response = project_client.red_teams.get(name=red_team_response.name)
print(f"Red Team scan status: {get_red_team_response.status}")
Tüm yapay zeka kırmızı grup oluşturma çalıştırmalarını listeleme
for scan in project_client.red_teams.list():
print(f"Found scan: {scan.name}, Status: {scan.status}")
Yapay zeka kırmızı grup oluşturma çalıştırmanız tamamlandıktan sonra sonuçlarınızı Azure AI Foundry projenizde görüntüleyebilirsiniz .
İlgili içerik
GitHub örneklerimizde örnek bir iş akışı deneyin.