تشغيل عامل الفريق الأحمر الذكاء الاصطناعي في السحابة (معاينة)

هام

العناصر التي تم وضع علامة عليها (إصدار أولي) في هذه المقالة موجودة حالياً في الإصدار الأولي العام. يتم توفير هذه المعاينة دون اتفاقية على مستوى الخدمة، ولا نوصي بها لأحمال عمل الإنتاج. بعض الميزات ربما لا تكون مدعمة أو بها بعض القدرات المقيدة. لمزيد من المعلومات، راجع شروط الاستخدام التكميلية لمعاينات Microsoft Azure.

على الرغم من أنه يمكن تشغيل عامل الذكاء الاصطناعي Red Teaming (معاينة) محليا أثناء النماذج الأولية والتطوير للمساعدة في تحديد مخاطر الأمان، فإن تشغيلها في السحابة يسمح بالنشر المسبق الذكاء الاصطناعي يعمل الفريق الأحمر على مجموعات أكبر من استراتيجيات الهجوم وفئات المخاطر لتحليل أكمل.

المتطلبات الأساسية

‏‫ملاحظة

يجب استخدام مشروع Foundry لهذه الميزة. المشروع المستند إلى المركز غير مدعوم. راجع كيف يمكنني معرفة نوع المشروع الذي أملكه؟ وإنشاء مشروع Foundry.

إذا كانت هذه هي المرة الأولى التي تقوم فيها بتشغيل التقييمات أو الذكاء الاصطناعي يعمل الفريق الأحمر على مشروع Azure الذكاء الاصطناعي Foundry، فقد تحتاج إلى القيام ببعض خطوات الإعداد الإضافية.

1. إنشاء حساب التخزين الخاص بك وتوصيله بمشروع Azure الذكاء الاصطناعي Foundry على مستوى المورد. يقوم قالب bicep هذا بتوفير حساب تخزين وتوصيله بمشروع Foundry الخاص بك مع مصادقة المفتاح.
2. تأكد من أن حساب التخزين المتصل لديه حق الوصول إلى جميع المشاريع.
3. إذا قمت بتوصيل حساب التخزين الخاص بك بمعرف Microsoft Entra، فتأكد من منح أذونات MSI (Microsoft Identity) لمالك بيانات Storage Blob لكل من حسابك ومورد مشروع Foundry في مدخل Microsoft Azure.

الشروع في العمل

أولا، قم بتثبيت عميل مشروع Azure الذكاء الاصطناعي Foundry SDK الذي يقوم بتشغيل عامل الذكاء الاصطناعي Red Teaming في السحابة

uv install azure-ai-projects azure-identity

‏‫ملاحظة

لمزيد من المعلومات التفصيلية، راجع الوثائق المرجعية لواجهة برمجة تطبيقات REST.

ثم قم بتعيين متغيرات البيئة الخاصة بك لموارد Azure الذكاء الاصطناعي Foundry

import os

endpoint = os.environ["PROJECT_ENDPOINT"] # Sample : https://<account_name>.services.ai.azure.com/api/projects/<project_name>
model_endpoint = os.environ["MODEL_ENDPOINT"] # Sample : https://<account_name>.services.ai.azure.com
model_api_key= os.environ["MODEL_API_KEY"]
model_deployment_name = os.environ["MODEL_DEPLOYMENT_NAME"] # Sample : gpt-4o-mini

الأهداف المدعومة

يدعم تشغيل عامل الذكاء الاصطناعي Red Teaming Agent في السحابة حاليا فقط عمليات نشر نموذج Azure OpenAI في مشروع Azure الذكاء الاصطناعي Foundry كهدف.

إنشاء الذكاء الاصطناعي تشغيل الفريق الأحمر

بايثون

from azure.identity import DefaultAzureCredential
from azure.ai.projects import AIProjectClient
from azure.ai.projects.models import (
    RedTeam,
    AzureOpenAIModelConfiguration,
    AttackStrategy,
    RiskCategory,
)

with AIProjectClient(
  endpoint=endpoint,
  credential=DefaultAzureCredential(exclude_interactive_browser_credential=False),
) as project_client:

# Create target configuration for testing an Azure OpenAI model
target_config = AzureOpenAIModelConfiguration(model_deployment_name=model_deployment_name)

# Instantiate the AI Red Teaming Agent
red_team_agent = RedTeam(
    attack_strategies=[AttackStrategy.BASE64],
    risk_categories=[RiskCategory.VIOLENCE],
    display_name="red-team-cloud-run", 
    target=target_config,
)

# Create and run the red teaming scan
red_team_response = project_client.red_teams.create(red_team=red_team_agent, headers={"model-endpoint": model_endpoint, "api-key": model_api_key,})

حليقه

curl --request POST \  --url https://{{account}}.services.ai.azure.com/api/projects/{{project}}/redteams/runs:run \  --header 'content-type: application/json' \  --header 'authorization: Bearer {{ai_token}}'  --data '{  "scanName": "sample_scan_magic_1",  "riskCategories": [    "Violence"  ],  "attackStrategy": [    "Flip"  ],  "numTurns": 1,  "target": {    "type": "AzureOpenAIModel",    "modelDeploymentName": "{{connectionName}}/{{deploymentName}}"  }}'

• استبدل {{account}}، {{project}} باسم حساب Foundry Project واسم المشروع.
• استبدل {{ai_token}} برمز Bearer المميز بالجمهور "https://ai.azure.com"
• استبدل "{{connectionName}}" باسم اتصال نموذج Azure OpenAI المتصل بحساب مشروع Foundry.
• استبدل "{{deploymentName}}" باسم نشر Azure OpenAI لحساب اتصال AOAI.

الحصول على الذكاء الاصطناعي تشغيل الفريق الأحمر

بايثون

# Use the name returned by the create operation for the get call
get_red_team_response = project_client.red_teams.get(name=red_team_response.name)
print(f"Red Team scan status: {get_red_team_response.status}")

حليقه

curl --request GET \  --header 'authorization: Bearer {{ai_token}}'  --url https://{{account}}.services.ai.azure.com/api/projects/{{project}}/redteams/runs/{{scan_id}}

• استبدل "{{scan_id}" بالمعرف الذي تم إرجاعه بواسطة واجهة برمجة تطبيقات POST.

سرد جميع عمليات تشغيل الفريق الأحمر الذكاء الاصطناعي

بايثون

for scan in project_client.red_teams.list():
  print(f"Found scan: {scan.name}, Status: {scan.status}")

حليقه

curl --request GET \  --header 'authorization: Bearer {{ai_token}}'  --url https://{{account}}.services.ai.azure.com/api/projects/{{project}}/redteams/runs

بمجرد الانتهاء من تشغيل الفريق الأحمر الذكاء الاصطناعي، يمكنك عرض نتائجك في مشروع Azure الذكاء الاصطناعي Foundry.

المحتوى ذو الصلة

جرب مثالا لسير العمل في نماذج GitHub الخاصة بنا.