OpenAI uyumlu google gemini API'lerini içeri aktarma

UYGULANANLAR: Tüm API Management katmanları

Bu makalede, gibi gemini-2.0-flashmodellere erişmek için OpenAI uyumlu bir Google Gemini API'sini nasıl içeri aktarabileceğiniz gösterilmektedir. Bu modeller için Azure API Management, OpenAI uyumlu bir sohbet tamamlama uç noktasını yönetebilir.

API Management'ta yapay zeka API'lerini yönetme hakkında daha fazla bilgi edinin:

• Azure API Management'ta yapay zeka ağ geçidi özellikleri
• Dil modeli API'sini içeri aktarma

Önkoşullar

• Mevcut bir API Management örneği. Henüz oluşturmadıysanız bir tane oluşturun.
• İkizler API'sinin API anahtarı. Hesabınız yoksa Google AI Studio'da oluşturun ve güvenli bir konumda depolayın.

Portalı kullanarak OpenAI uyumlu gemini API'sini içeri aktarma

1. Azure portalında API Management örneğine gidin.

2. Soldaki menüde, API'ler'in altında API'ler>+ API Ekle'yi seçin.

3. Yeni API tanımla'nın altında Dil Modeli API'sini seçin.

   

4. API'yi Yapılandır sekmesinde:

   1. API için bir Görünen ad ve isteğe bağlı bir açıklama girin.

   2. URL'de, Gemini OpenAI uyumluluk belgelerinden aşağıdaki temel URL'yi girin:https://generativelanguage.googleapis.com/v1beta/openai

   3. Yol bölümünde API Management örneğinizin istekleri Gemini API uç noktalarına yönlendirmek için kullandığı yolu ekleyin.

   4. Tür'deOpenAI API'sini Oluştur'u seçin.

   5. Access anahtarına aşağıdakileri girin:

      1. Üst bilgi adı: Yetkilendirme.
      2. Üst bilgi değeri (anahtar): Bearer ardından İkizler API'sine yönelik API anahtarınız.

   

5. Kalan sekmelerde isteğe bağlı olarak belirteç tüketimini, anlamsal önbelleğe almayı ve yapay zeka içerik güvenliğini yönetmek için ilkeleri yapılandırın. Ayrıntılar için bkz. Dil modeli API'sini içeri aktarma.

6. İncele'yi seçin.

7. Ayarlar doğrulandıktan sonra Oluştur'u seçin.

API Management, API'yi oluşturur ve aşağıdakileri yapılandırır:

• Bir arka uç kaynağı ve API isteklerini Google Gemini uç noktasına yönlendiren bir set-backend-service ilkesi.
• Sağladığınız Gemini API anahtarını kullanarak LLM arka ucuna erişim. Anahtar, API Yönetimi'nde adlandırılmış bir gizli değer olarak korunur.
• (isteğe bağlı olarak) API'yi izlemenize ve yönetmenize yardımcı olacak ilkeler.

İkizler modelini test etme

API'yi içeri aktardıktan sonra API için sohbet tamamlama uç noktasını test edebilirsiniz.

1. Önceki adımda oluşturduğunuz API'yi seçin.

2. Test sekmesini seçin.

3. POST Creates a model response for the given chat conversation işlemi seçin, bu POST isteği /chat/completions uç noktasına yöneliktir.

4. İstek gövdesi bölümünde, modeli ve örnek bir istem belirtmek için aşağıdaki JSON değerini girin. Bu örnekte model gemini-2.0-flash kullanılmıştır.

   {
       "model": "gemini-2.0-flash",
       "messages": [
           {
               "role": "system",
               "content": "You are a helpful assistant"
           },
           {
               "role": "user",
               "content": "How are you?"
           }
       ],
       "max_tokens": 50
   }
   

   Test başarılı olduğunda, arka uç başarılı bir HTTP yanıt kodu ve bazı verilerle yanıt verir. Yanıta eklenen belirteç kullanım verileri, dil modeli belirteç tüketiminizi izlemenize ve yönetmenize yardımcı olur.

   

İlgili içerik

• Azure API Management'ta yapay zeka ağ geçidi özellikleri