إشعار
يتطلب الوصول إلى هذه الصفحة تخويلاً. يمكنك محاولة تسجيل الدخول أو تغيير الدلائل.
يتطلب الوصول إلى هذه الصفحة تخويلاً. يمكنك محاولة تغيير الدلائل.
ينطبق على: جميع مستويات إدارة واجهة برمجة التطبيقات
يمكنك استيراد نقاط نهاية نماذج اللغة المتوافقة مع OpenAI إلى مثيل إدارة واجهة برمجة التطبيقات الخاصة بك، أو استيراد نماذج غير متوافقة كواجهات برمجة تطبيقات تمرير. على سبيل المثال، إدارة نماذج اللغة الكبيرة المستضافة ذاتيا أو تلك المستضافة على مزودي الاستدلال غير أدوات Foundry. استخدم سياسات بوابة الذكاء الاصطناعي وقدرات إدارة واجهات برمجة التطبيقات الأخرى لتبسيط التكامل، وتحسين قابلية الملاحظة، وتعزيز التحكم في نقاط نهاية النماذج.
تعرف على المزيد حول إدارة واجهات برمجة التطبيقات الذكاء الاصطناعي في APIM:
أنواع واجهة برمجة تطبيقات نموذج اللغة
تدعم إدارة واجهة برمجة التطبيقات نوعين من نماذج اللغات. اختر الخيار الذي يتوافق مع نشر النموذج الخاص بك، والذي يحدد كيف يتصل العملاء بواجهة برمجة التطبيقات وكيف تصل الطلبات إلى خدمة الذكاء الاصطناعي.
متوافقة مع OpenAI - نقاط نهاية نموذج لغوي متوافقة مع واجهة برمجة تطبيقات OpenAI. من الأمثلة على ذلك تضمين الاستدلال النصي الوجه (TGI)وواجهة برمجة تطبيقات جوجل جيميني.
إدارة API تهيئة نقطة نهاية لإكمال الدردشة.
Passthrough - نقاط نهاية نموذج لغوي غير متوافقة مع واجهة برمجة تطبيقات OpenAI. ومن الأمثلة على ذلك النماذج المنشورة في Amazon Bedrock أو موفرين آخرين.
تقوم APIM بتكوين عمليات أحرف البدل لأفعال HTTP الشائعة. يمكن للعملاء إضافة مسارات إلى عمليات البطاقات البرية، وإدارة واجهة برمجة التطبيقات تمرر الطلبات إلى الخلفية.
المتطلبات الأساسية
- مثيل APIM موجود. أنشئ واحد إذا لم تكن قد قمت بذلك بالفعل.
- نشر نموذج لغوي مستضاف ذاتيا أو غير مقدم من Azure مع نقطة نهاية API.
استيراد واجهة برمجة تطبيقات نموذج اللغة باستخدام البوابة
استيراد واجهة برمجة تطبيقات LLM تقوم تلقائيا بتكوين ما يلي:
- سياسة موارد خلفيةوخدمة خلفية توجه الطلبات إلى نقطة نهاية نموذج اللغة الكبيرة.
- (اختياري) الوصول باستخدام مفتاح وصول (محمي كقيمة سرية مسماة).
- (اختياري) سياسات لمراقبة وإدارة واجهة برمجة التطبيقات (API).
لاستيراد واجهة برمجة تطبيقات لنموذج لغة:
في بوابة Azure، اذهب إلى مثيل إدارة واجهة برمجة التطبيقات الخاصة بك.
في القائمة اليسرى، ضمن واجهات برمجة التطبيقات، حدد واجهات برمجة التطبيقات> + إضافة واجهة برمجة التطبيقات.
ضمن تعريف واجهة برمجة تطبيقات جديدة، حدد واجهة برمجة تطبيقات نموذج اللغة.
في علامة التبويب تكوين واجهة برمجة التطبيقات :
- أدخل اسم العرضوالوصف (اختياري).
- أدخل عنوان واجهة برمجة تطبيقات LLM.
- اختر منتجا أو أكثر للربط بواجهة برمجة التطبيقات (اختياري).
- في Path، أضف المسار للوصول إلى واجهة برمجة تطبيقات LLM.
- اختر إما إنشاء واجهة برمجة تطبيقات OpenAI أو إنشاء واجهة مرور (passthrough). انظر أنواع واجهات برمجة تطبيقات نماذج اللغة.
- أدخل اسم رأس التفويض ومفتاح واجهة برمجة التطبيقات (إذا لزم الأمر).
- حدد التالي.
في تبويب إدارة استهلاك الرموز ، أدخل الإعدادات أو اقبل الإعدادات الافتراضية للسياسات التالية:
في تبويب تطبيق التخزين المؤقت الدلالي ، أدخل الإعدادات أو اقبل الإعدادات الافتراضية للسياسة لتحسين الأداء وتقليل الكمون:
في تبويب AI الخاص بأمان المحتوى، أدخل الإعدادات أو قبل الإعدادات الافتراضية لتكوين Azure AI Content Safety لحجب المحتوى غير الآمن:
حدد "Review".
بعد التحقق من الصحة، حدد إنشاء.
إدارة API تنشئ واجهة برمجة التطبيقات وتهيئة العمليات لنقاط نهاية نموذج اللغة الكبيرة (LLM). بشكل افتراضي، تتطلب واجهة برمجة التطبيقات اشتراك API Management.
اختبار واجهة برمجة تطبيقات LLM
تحقق من واجهة برمجة تطبيقات LLM الخاصة بك في وحدة الاختبار.
اختر الواجهة التي أنشأتها.
حدد علامة التبويب الاختبار.
اختر عملية متوافقة مع نشر النموذج. تظهر حقول للمعاملات والرؤوس.
أدخل المعلمات والرؤوس. اعتمادا على العملية، قم بتكوين أو تحديث جسم الطلب حسب الحاجة.
ملاحظة
تضيف وحدة الاختبار تلقائيا رأس Ocp-Apim-Subscription-Key (باستخدام اشتراك الوصول الكامل المدمج)، والذي يوفر الوصول إلى كل واجهات برمجة التطبيقات (API). لعرضه، اختر أيقونة "العين" بجانب طلب HTTP.
حدد إرسال.
عندما ينجح الاختبار، تعيد الواجهة الخلفية بيانات بما في ذلك مقاييس استخدام الرموز لمراقبة استهلاك نموذج اللغة.