Aracılığıyla paylaş


Azure OpenAI API'lerini içeri aktarma

UYGULANANLAR: Tüm API Management katmanları

Foundry Modellerinde Azure OpenAI'de dağıtılan yapay zeka modeli uç noktalarını API Management örneğinize REST API olarak aktarabilirsiniz. Tümleştirmeyi basitleştirmek, gözlemlenebilirliği geliştirmek ve model uç noktaları üzerinde denetimi geliştirmek için API Management'taki yapay zeka ağ geçidi ilkelerini ve diğer özellikleri kullanın.

Bu makalede, Azure OpenAI API'sini Bir Azure API Management örneğine REST API olarak içeri aktarmaya yönelik iki seçenek gösterilmektedir:

API Management'ta yapay zeka API'lerini yönetme hakkında daha fazla bilgi edinin:

Önkoşullar

  • Mevcut bir API Management örneği. Henüz oluşturmadıysanız bir tane oluşturun.

  • Modeli dağıtılan bir Azure OpenAI kaynağı. Azure OpenAI'de model dağıtımı hakkında daha fazla bilgi için kaynak dağıtım kılavuzuna bakın.

    Dağıtımın kimlik numarasını (adını) kaydedin. İçeri aktarılan API'yi API Management'ta test ederken buna ihtiyacınız olacaktır.

    Not

    Belirli Azure OpenAI modelleri aracılığıyla kullanıma sunulan belirli API uç noktaları için azure-openai-token-limit ve azure-openai-emit-token-metric gibi API Management ilkeleri desteklenir. Daha fazla bilgi için bkz. Foundry Modellerinde Desteklenen Azure OpenAI.

  • API Management örneğinden Azure OpenAI kaynağına erişim izni verme izinleri.

1. Seçenek Azure OpenAI'den API'leri içeri aktarma

Azure OpenAI API'sini doğrudan Azure OpenAI'den API Management'a aktarabilirsiniz.

Not

Şu anda bu özellik çalışma alanlarında kullanılamaz.

API'yi içeri aktardığınızda API Management şunları otomatik olarak yapılandırıyor:

  • Azure OpenAI REST API uç noktalarının her biri için işlemler
  • Azure OpenAI kaynağına erişmek için gerekli izinlere sahip sistem tarafından atanan kimlik.
  • Azure OpenAI uç noktasına API isteklerini yönlendiren bir arka uç kaynağı ve bir set-backend-service ilkesi.
  • Varlığın sistem tarafından atanan yönetilen kimliğini kullanarak Azure OpenAI arka hizmetine kimlik doğrulaması.
  • (isteğe bağlı olarak) Azure OpenAI API'sini izlemenize ve yönetmenize yardımcı olacak ilkeler.

Azure OpenAI API'sini API Management'a aktarmak için:

  1. Azure portalında API Management örneğine gidin.

  2. Soldaki menüde, API'ler altında API'ler>+ API Ekle'yi seçin.

  3. Azure kaynağından oluştur'un altında Azure OpenAI'yi seçin.

    Portalda Azure OpenAI'den API oluşturma işleminin ekran görüntüsü.

  4. Temel Bilgiler sekmesinde:

    1. İçeri aktarmak istediğiniz Azure OpenAI kaynağını seçin.

    2. İsteğe bağlı olarak bir Azure OpenAI API sürümü seçin. Seçmezseniz, en son üretime hazır REST API sürümü varsayılan olarak kullanılır. Seçtiğiniz sürümü not edin. API'yi test etmek için buna ihtiyacınız olacaktır.

    3. API için bir Görünen ad ve isteğe bağlı açıklama girin.

    4. Temel URL'de API Management örneğinizin Azure OpenAI API uç noktalarına erişmek için kullandığı yolu ekleyin. OpenAI SDK uyumluluğunu sağlayın seçeneğini etkinleştirirseniz (önerilen), /openai temel URL'ye otomatik olarak eklenir.

      Örneğin, API Management ağ geçidi uç noktanız https://contoso.azure-api.net ise, olarak https://contoso.azure-api.net/my-openai-api/openai benzeri bir ayarlayın.

    5. İsteğe bağlı olarak API ile ilişkilendirilecek bir veya daha fazla ürün seçin. İleri'yi seçin.

  5. İlkeler sekmesinde, isteğe bağlı olarak API'yi izlemeye ve yönetmeye yardımcı olacak ilkeleri etkinleştirin. İlkeleri daha sonra ayarlayabilir veya düzenleyebilirsiniz.

    Seçiliyse, ayarları girin veya aşağıdaki ilkeleri tanımlayan varsayılanları kabul edin (önkoşullar ve yapılandırma ayrıntıları için bağlantılı makalelere bakın):

    Gözden geçir + Oluştur’u seçin.

  6. Ayarlar doğrulandıktan sonra Oluştur'u seçin.

2. Seçenek API Management'a OpenAPI belirtimi ekleme

Alternatif olarak, Azure OpenAI REST API'si için OpenAPI belirtimini el ile indirin ve bunu OpenAPI API'si olarak API Management'a ekleyin.

OpenAPI belirtimini indirme

Azure OpenAI REST API'si için 2024-10-21 GA sürümü gibi OpenAPI belirtimini indirin.

  1. Bir metin düzenleyicisinde indirdiğiniz belirtim dosyasını açın.

  2. Belirtim dökümanındaki servers öğesinde, Azure OpenAI uç noktanızın adını, belirtimdeki url ve default uç noktası yer tutucu değerleri ile değiştirin. Örneğin, Azure OpenAI uç noktanız ise contoso.openai.azure.comöğesini aşağıdaki değerlerle güncelleştirin servers :

    • url: https://contoso.openai.azure.com/openai
    • varsayılan uç nokta: contoso.openai.azure.com
    [...]
    "servers": [
        {
          "url": "https://contoso.openai.azure.com/openai",
          "variables": {
            "endpoint": {
              "default": "contoso.openai.azure.com"
            }
          }
        }
      ],
    [...]
    
  3. API'nin spesifikasyondaki değerini not edin. API'yi test etmek için buna ihtiyacınız olacaktır. Örnek: 2024-10-21.

API Management'a OpenAPI belirtimi ekleme

  1. Azure portalında API Management örneğine gidin.
  2. Sol menüde API'ler> Ekle'yi seçin.
  3. Yeni API tanımla'nın altında OpenAPI'yi seçin. API için bir Görünen ad ve Ad girin.
  4. API Management örneğinizdeki Azure OpenAI API uç noktalarına erişmek için, API URL eki/openai ile biten bir URL girin. Örnek: my-openai-api/openai.
  5. Oluştur'u belirleyin.

API içeri aktarılır ve OpenAPI belirtimindeki işlemler görüntülenir.

Azure OpenAI API'sinde kimlik doğrulamasını yapılandırma

Azure OpenAI API'sinde kimlik doğrulaması yapmak için bir API anahtarı veya yönetilen kimlik sağlayın. Azure OpenAI API'sini doğrudan API Management örneğine aktardıysanız, API Management örneğinin yönetilen kimliği kullanılarak kimlik doğrulaması otomatik olarak yapılandırılır.

Azure OpenAI API'sini OpenAPI belirtiminden eklediyseniz kimlik doğrulamasını yapılandırmanız gerekir. API Management ilkelerini kullanarak kimlik doğrulamasını yapılandırma hakkında daha fazla bilgi için bkz . Azure OpenAI API'sinde kimlik doğrulaması ve yetkilendirme.

Azure OpenAI API'sini test edin

Azure OpenAI API'nizin beklendiği gibi çalıştığından emin olmak için API Management test konsolunda test edin. API'yi test etmek için Azure OpenAI kaynağında ve API sürümünde yapılandırılmış bir model dağıtım kimliği (ad) sağlamanız gerekir.

  1. Önceki adımda oluşturduğunuz API’yi seçin.

  2. Test sekmesini seçin.

  3. Azure OpenAI kaynağında dağıttığınız modelle uyumlu bir işlem seçin. Sayfada parametreler ve üst bilgiler için alanlar görüntülenir.

  4. Şablon parametreleri'ne aşağıdaki değerleri girin:

    • deployment-id - Azure OpenAI'de bir dağıtımın kimliği
    • api-version - API'yi içeri aktarırken seçtiğiniz API sürümü gibi geçerli bir Azure OpenAI API sürümü. Portalda Azure OpenAI API'sini test etme işleminin ekran görüntüsü.
  5. Gerekirse diğer parametreleri ve üst bilgileri girin. İşleme bağlı olarak, bir İstek gövdesini yapılandırmanız veya güncelleştirmeniz gerekebilir.

    Not

    Test konsolunda API Management otomatik olarak bir Ocp-Apim-Subscription-Key üst bilgisini doldurur ve yerleşik tüm erişimli aboneliğin anahtarını yapılandırır. Bu anahtar, API Management örneğindeki her API'ye erişim sağlar. İsteğe bağlı olarak HTTP İsteği'nin yanındaki "göz" simgesini seçerek Ocp-Apim-Subscription-Key üst bilgisini görüntüleyin.

  6. Gönder'i seçin.

    Test başarılı olduğunda, arka uç başarılı bir HTTP yanıt kodu ve bazı verilerle yanıt verir. Yanıtın sonuna, Azure OpenAI API belirteci tüketiminizi izlemenize ve yönetmenize yardımcı olacak belirteç kullanım verileri eklenir.

    Portaldaki API yanıtında belirteç kullanım verilerinin ekran görüntüsü.