استيراد واجهة برمجة تطبيقات نموذج لغة

ينطبق على: جميع مستويات إدارة واجهة برمجة التطبيقات

يمكنك استيراد نقاط نهاية نموذج اللغة المتوافقة مع OpenAI إلى مثيل APIM الخاص بك كواجهات برمجة تطبيقات. يمكنك أيضا استيراد نماذج اللغة غير المتوافقة مع OpenAI كواجهات برمجة تطبيقات تمريرية، والتي تعيد توجيه الطلبات مباشرة إلى نقاط النهاية الخلفية. على سبيل المثال، قد تحتاج إلى إدارة LLM التي تستضيفها ذاتيا، أو التي تتم استضافتها على موفر استدلال بخلاف خدمات Azure الذكاء الاصطناعي. استخدم نهج البوابة الذكاء الاصطناعي والقدرات الأخرى في APIM لتبسيط التكامل وتحسين إمكانية الملاحظة وتعزيز التحكم في نقاط نهاية النموذج.

تعرف على المزيد حول إدارة واجهات برمجة التطبيقات الذكاء الاصطناعي في APIM:

• قدرات البوابة الذكاء الاصطناعي في Azure API Management

أنواع واجهة برمجة تطبيقات نموذج اللغة

تدعم APIM نوعين من واجهات برمجة التطبيقات لنموذج اللغة لهذا السيناريو. اختر الخيار المناسب لنشر النموذج الخاص بك. يحدد الخيار كيفية استدعاء العملاء لواجهة برمجة التطبيقات وكيفية توجيه مثيل APIM للطلبات إلى خدمة الذكاء الاصطناعي.

• متوافق مع OpenAI - نقاط نهاية نموذج اللغة المتوافقة مع واجهة برمجة تطبيقات OpenAI. تتضمن الأمثلة نماذج معينة يتعرض لها موفرو الاستدلال مثل استدلال إنشاء نص الوجه عناق (TGI)وواجهة برمجة تطبيقات Google Gemini.

  بالنسبة إلى LLM المتوافق مع OpenAI، تقوم APIM بتكوين نقطة نهاية إكمال الدردشة.

• Passthrough - نقاط نهاية نموذج اللغة الأخرى غير المتوافقة مع واجهة برمجة تطبيقات OpenAI. ومن الأمثلة على ذلك النماذج المنشورة في Amazon Bedrock أو موفرين آخرين.

  تقوم APIM بتكوين عمليات أحرف البدل لأفعال HTTP الشائعة. يمكن للعملاء إلحاق المسارات بعمليات أحرف البدل، وتمرر إدارة واجهة برمجة التطبيقات الطلبات إلى الخلفية.

المتطلبات الأساسية

• مثيل APIM موجود. أنشئ واحد إذا لم تكن قد قمت بذلك بالفعل.
• نشر نموذج اللغة المستضاف ذاتيا أو غير المقدم من Azure مع نقطة نهاية API.

استيراد واجهة برمجة تطبيقات نموذج اللغة باستخدام المدخل

عند استيراد واجهة برمجة تطبيقات LLM في المدخل، تقوم APIM تلقائيا بتكوين:

• مورد الواجهة الخلفية ونهج خدمة الواجهة الخلفية التي توجه طلبات واجهة برمجة التطبيقات إلى نقطة نهاية LLM.
• (اختياريا) الوصول إلى الواجهة الخلفية LLM باستخدام مفتاح وصول توفره. المفتاح محمي كبيانات سرية تسمى القيمة في APIM.
• (اختياريا) نهج لمساعدتك في مراقبة واجهة برمجة التطبيقات وإدارتها.

لاستيراد واجهة برمجة تطبيقات نموذج لغة إلى APIM:

1. في مدخل Azure، انتقل إلى مثيل API Management الخاص بك.

2. في القائمة اليسرى، ضمن واجهات برمجة التطبيقات، حدد واجهات برمجة التطبيقات> + إضافة واجهة برمجة التطبيقات.

3. ضمن تعريف واجهة برمجة تطبيقات جديدة، حدد واجهة برمجة تطبيقات نموذج اللغة.

   

4. في علامة التبويب تكوين واجهة برمجة التطبيقات :

   1. أدخل اسم العرض والوصف الاختياري لواجهة برمجة التطبيقات.
   2. أدخل عنوان URL إلى نقطة نهاية واجهة برمجة تطبيقات LLM.
   3. اختياريا حدد منتجا واحدا أو أكثر لإقرانه بواجهة برمجة التطبيقات.
   4. في Path، قم بإلحاق مسار يستخدمه مثيل API Management للوصول إلى نقاط نهاية واجهة برمجة تطبيقات LLM.
   5. في النوع، حدد إما Create OpenAI API أو Create a passthrough API. راجع أنواع واجهة برمجة تطبيقات نموذج اللغة للحصول على مزيد من المعلومات.
   6. في مفتاح Access، أدخل اسم عنوان التخويل ومفتاح API المستخدم للوصول إلى واجهة برمجة تطبيقات LLM، إذا لزم الأمر.
   7. حدد التالي.

   

5. في علامة التبويب إدارة استهلاك الرمز المميز ، أدخل اختياريا الإعدادات أو اقبل الإعدادات الافتراضية التي تحدد النهج التالية للمساعدة في مراقبة واجهة برمجة التطبيقات وإدارتها:

   • إدارة استهلاك الرمز المميز
   • تعقب استخدام الرمز المميز

6. في علامة التبويب تطبيق التخزين المؤقت الدلالي ، أدخل الإعدادات اختياريا أو اقبل الإعدادات الافتراضية التي تحدد النهج للمساعدة في تحسين الأداء وتقليل زمن الانتقال لواجهة برمجة التطبيقات:

   • تمكين التخزين المؤقت الدلالي للاستجابات

7. في الذكاء الاصطناعي أمان المحتوى، أدخل الإعدادات اختياريا أو اقبل الإعدادات الافتراضية لتكوين خدمة Azure الذكاء الاصطناعي Content Safety لحظر المطالبات ذات المحتوى غير الآمن:

   • فرض عمليات التحقق من أمان المحتوى على طلبات LLM

8. حدد "Review".

9. بعد التحقق من صحة الإعدادات، حدد إنشاء.

تقوم APIM بإنشاء واجهة برمجة التطبيقات وتكوين العمليات لنقاط نهاية LLM. بشكل افتراضي، تتطلب واجهة برمجة التطبيقات اشتراك API Management.

اختبار واجهة برمجة تطبيقات LLM

للتأكد من أن واجهة برمجة تطبيقات LLM تعمل كما هو متوقع، اختبرها في وحدة تحكم اختبار APIM.

1. تحديد واجهة برمجة التطبيقات التي أنشأتها في الخطوة السابقة.

2. حدد علامة التبويب الاختبار.

3. حدد عملية متوافقة مع نشر النموذج. تعرض الصفحة حقول المعلمات والرؤوس.

4. أدخل المعلمات والرؤوس حسب الحاجة. اعتمادا على العملية، قد تحتاج إلى تكوين نص طلب أو تحديثه.

   ‏‫ملاحظة

   في وحدة تحكم الاختبار، تقوم APIM تلقائيا بتعبئة عنوان Ocp-Apim-Subscription-Key، وتكوين مفتاح الاشتراك للاشتراك المضمن في الوصول بالكامل. يتيح هذا المفتاح الوصول إلى كل واجهة برمجة تطبيقات في مثيل APIM. عرض رأس Ocp-Apim-Subscription-Key اختياريا عن طريق تحديد أيقونة "العين" بجوار طلب HTTP.

5. حدد إرسال.

   عند نجاح الاختبار، تستجيب الخلفية برمز استجابة HTTP ناجح وبعض البيانات. إلحاق الاستجابة هو بيانات استخدام الرمز المميز لمساعدتك في مراقبة وإدارة استهلاك الرمز المميز لنموذج اللغة.

المحتوى ذو الصلة

• قدرات البوابة الذكاء الاصطناعي في Azure API Management