إشعار
يتطلب الوصول إلى هذه الصفحة تخويلاً. يمكنك محاولة تسجيل الدخول أو تغيير الدلائل.
يتطلب الوصول إلى هذه الصفحة تخويلاً. يمكنك محاولة تغيير الدلائل.
النماذج المتصلة بالمسؤول هي نماذج مستضافة خلف بوابة الذكاء الاصطناعي للمؤسسة، مثل إدارة Azure API أو بوابة نموذج الذكاء الاصطناعي غير Azure، التي يتصل بها المسؤول بمشروع Foundry الخاص بك. يمكنك استخدام نموذج متصل بالمسؤول لسيناريوهات تقييم السحابة التي تقبل نشر نموذج.
يعمل Foundry على حل نقطة نهاية الاتصال والمصادقة، بما في ذلك مفتاح API أو الهوية المدارة أو مصادقة OAuth 2.0. يشير طلب التقييم الخاص بك إلى الاتصال والتوزيع، وليس نقطة نهاية البوابة أو بيانات الاعتماد الخاصة بها.
مهم
يدعم تقييم السحابة النماذج المتصلة بالمسؤول فقط عندما يعرض التوزيع المتصل واجهة برمجة تطبيقات OpenAI Chat Completions.
ملحوظة
دعم النموذج المتصل بالمسؤول في تقييم السحابة قيد المعاينة وقد لا يكون متوفرا في جميع المناطق.
المتطلبات المسبقه
- مشروع مسبك.
- دور مستخدم المسبك في مشروع Foundry.
- قام مسؤول بإنشاء اتصال بوابة نموذج الذكاء الاصطناعي إدارة Azure API أو غير Azure على مورد Foundry الخاص بك وإضافة النموذج في علامة التبويب Manage>Resource details>النماذج المتصلة بالمسؤول. للحصول على إرشادات الإعداد، راجع إحضار النموذج الخاص بك إلى Foundry Agent Service.
- اسم الاتصال واسم النشر لنموذج يدعم واجهة برمجة تطبيقات OpenAI Chat Completions.
الرجوع إلى نموذج متصل بالمسؤول
استخدم التنسيق التالي في أي مكان يقبل فيه سيناريو التقييم المدعوم نشر نموذج:
<connection-name>/<deployment-name>
يعرض الجدول التالي أسطح التقييم الشائعة وحقل يقبل المرجع:
| السيناريو | الحقل |
|---|---|
| مقيم بمساعدة الذكاء الاصطناعي (قاض) | initialization_parameters.model |
| هدف النموذج | target.model |
| محاكاة المحادثة | item_generation_params.model |
استخدام نموذج متصل بالمسؤول كنموذج قاضي تقييم
تعيين initialization_parameters.model عند تكوين مقيم بمساعدة الذكاء الاصطناعي. يستخدم هذا المثال النموذج المتصل بالمسؤول كقاض لمقيم الاتساق:
from azure.ai.projects.models import TestingCriterionAzureAIEvaluator
admin_connected_model = "my-apim-connection/gpt-4o"
testing_criteria = [
TestingCriterionAzureAIEvaluator(
type="azure_ai_evaluator",
name="coherence",
evaluator_name="builtin.coherence",
initialization_parameters={"model": admin_connected_model},
data_mapping={
"query": "{{item.query}}",
"response": "{{item.response}}",
},
),
]
استخدام نموذج متصل بالمسؤول كهدف
تعيين target.model لإرسال كل إدخال تقييم إلى النموذج المتصل بالمسؤول:
admin_connected_model = "my-apim-connection/gpt-4o"
target = {
"type": "azure_ai_model",
"model": admin_connected_model,
"sampling_params": {
"top_p": 1.0,
"max_completion_tokens": 2048,
},
}
استخدم هذا الهدف مع تدفق تقييم هدف النموذج الموضح في تشغيل التقييمات في السحابة.
استخدام سيناريوهات التقييم الأخرى
تعمل السيناريوهات الأخرى المستندة إلى النموذج في تشغيل التقييمات في السحابة باستخدام Microsoft Foundry SDK بشكل مماثل مع النماذج المتصلة بالمسؤول. أينما يقبل السيناريو نشر نموذج مدعوم، استبدل اسم التوزيع ب <connection-name>/<deployment-name>. على سبيل المثال، تقبل محاكاة المحادثة هذا المرجع في item_generation_params.model.
احتفظ بنقطة نهاية مشروع Foundry دون تغيير، ولا تضيف نقطة نهاية البوابة أو بيانات الاعتماد إلى طلب التقييم. يعمل Foundry على حل هذه القيم من اتصال النموذج المتصل بالمسؤول.
ملحوظة
لا يتوفر النموذج المتصل بالمسؤول لإنشاء البيانات الاصطناعية.