مشاركة عبر

استيراد واجهة برمجة تطبيقات نموذج لغة متوافقة مع OpenAI

ينطبق على: جميع مستويات إدارة واجهة برمجة التطبيقات

يمكنك استيراد نقاط نهاية نموذج اللغة المتوافقة مع OpenAI إلى مثيل APIM الخاص بك كواجهات برمجة تطبيقات. على سبيل المثال، قد تحتاج إلى إدارة LLM التي تستضيفها ذاتيا، أو التي تتم استضافتها على موفر استدلال بخلاف خدمات Azure الذكاء الاصطناعي. استخدم نهج البوابة الذكاء الاصطناعي والقدرات الأخرى في APIM لتبسيط التكامل وتحسين إمكانية الملاحظة وتعزيز التحكم في نقاط نهاية النموذج.

تعرف على المزيد حول إدارة واجهات برمجة التطبيقات الذكاء الاصطناعي في APIM:

أنواع واجهة برمجة تطبيقات نموذج اللغة

تدعم APIM نوعين من واجهات برمجة التطبيقات لنموذج اللغة لهذا السيناريو. اختر الخيار المناسب لنشر النموذج الخاص بك. يحدد الخيار كيفية استدعاء العملاء لواجهة برمجة التطبيقات وكيفية توجيه مثيل APIM للطلبات إلى خدمة الذكاء الاصطناعي.

  • متوافق مع OpenAI - نقاط نهاية نموذج اللغة المتوافقة مع واجهة برمجة تطبيقات OpenAI. تتضمن الأمثلة نماذج معينة يعرضها موفرو الاستدلال مثل استدلال إنشاء نص الوجه عناق (TGI).

    تقوم APIM بتكوين نقطة نهاية إكمال الدردشة المتوافقة مع OpenAI.

  • Passthrough - نقاط نهاية نموذج اللغة الأخرى غير المتوافقة مع واجهة برمجة تطبيقات OpenAI. ومن الأمثلة على ذلك النماذج المنشورة في Amazon Bedrock أو موفرين آخرين.

    تقوم APIM بتكوين عمليات أحرف البدل لأفعال HTTP الشائعة. يمكن للعملاء إلحاق المسارات بعمليات أحرف البدل، وتمرر إدارة واجهة برمجة التطبيقات الطلبات إلى الخلفية.

المتطلبات الأساسية

استيراد واجهة برمجة تطبيقات نموذج اللغة باستخدام المدخل

لاستيراد واجهة برمجة تطبيقات نموذج لغة إلى APIM:

  1. في مدخل Azure، انتقل إلى مثيل API Management الخاص بك.

  2. في القائمة اليسرى، ضمن واجهات برمجة التطبيقات، حدد واجهات برمجة التطبيقات> + إضافة واجهة برمجة التطبيقات.

  3. ضمن تعريف واجهة برمجة تطبيقات جديدة، حدد واجهة برمجة تطبيقات نموذج اللغة.

    لقطة شاشة لإنشاء واجهة برمجة تطبيقات متوافقة مع OpenAI في المدخل.

  4. في علامة التبويب تكوين واجهة برمجة التطبيقات :

    1. أدخل اسم العرض والوصف الاختياري لواجهة برمجة التطبيقات.
    2. أدخل عنوان URL إلى نقطة نهاية واجهة برمجة تطبيقات LLM.
    3. اختياريا حدد منتجا واحدا أو أكثر لإقرانه بواجهة برمجة التطبيقات.
    4. في Path، قم بإلحاق مسار يستخدمه مثيل API Management للوصول إلى نقاط نهاية واجهة برمجة تطبيقات LLM.
    5. في النوع، حدد إما Create OpenAI API أو Create a passthrough API. راجع أنواع واجهة برمجة تطبيقات نموذج اللغة للحصول على مزيد من المعلومات.
    6. في مفتاح Access، أدخل اسم عنوان التخويل ومفتاح API المستخدم للوصول إلى واجهة برمجة تطبيقات LLM، إذا لزم الأمر.
    7. حدد التالي.

    لقطة شاشة لتكوين واجهة برمجة تطبيقات نموذج اللغة في المدخل.

  5. في علامة التبويب إدارة استهلاك الرمز المميز ، أدخل اختياريا الإعدادات أو اقبل الإعدادات الافتراضية التي تحدد النهج التالية للمساعدة في مراقبة واجهة برمجة التطبيقات وإدارتها:

  6. في علامة التبويب تطبيق التخزين المؤقت الدلالي ، أدخل الإعدادات اختياريا أو اقبل الإعدادات الافتراضية التي تحدد النهج للمساعدة في تحسين الأداء وتقليل زمن الانتقال لواجهة برمجة التطبيقات:

  7. في الذكاء الاصطناعي أمان المحتوى، أدخل الإعدادات اختياريا أو اقبل الإعدادات الافتراضية لتكوين خدمة Azure الذكاء الاصطناعي Content Safety لحظر المطالبات ذات المحتوى غير الآمن:

  8. حدد "Review".

  9. بعد التحقق من صحة الإعدادات، حدد إنشاء.

اختبار واجهة برمجة تطبيقات LLM

للتأكد من أن واجهة برمجة تطبيقات LLM تعمل كما هو متوقع، اختبرها في وحدة تحكم اختبار APIM.

  1. تحديد واجهة برمجة التطبيقات التي أنشأتها في الخطوة السابقة.

  2. حدد علامة التبويب الاختبار.

  3. حدد عملية متوافقة مع نشر النموذج. تعرض الصفحة حقول المعلمات والرؤوس.

  4. أدخل المعلمات والرؤوس حسب الحاجة. اعتمادا على العملية، قد تحتاج إلى تكوين نص طلب أو تحديثه.

    ‏‫ملاحظة

    في وحدة تحكم الاختبار، تقوم APIM تلقائيا بتعبئة عنوان Ocp-Apim-Subscription-Key، وتكوين مفتاح الاشتراك للاشتراك المضمن في الوصول بالكامل. يتيح هذا المفتاح الوصول إلى كل واجهة برمجة تطبيقات في مثيل APIM. عرض رأس Ocp-Apim-Subscription-Key اختياريا عن طريق تحديد أيقونة "العين" بجوار طلب HTTP.

  5. حدد إرسال.

    عند نجاح الاختبار، تستجيب الخلفية برمز استجابة HTTP ناجح وبعض البيانات. إلحاق الاستجابة هو بيانات استخدام الرمز المميز لمساعدتك في مراقبة وإدارة استهلاك الرمز المميز لنموذج اللغة.

المحتوى ذو الصلة