Aracılığıyla paylaş

Azure OpenAI API'lerini içeri aktarma

  • Makale

UYGULANANLAR: Tüm API Management katmanları

Bu makalede, Bir Azure OpenAI Hizmeti API'sini Azure API Management örneğine REST API olarak içeri aktarmaya yönelik iki seçenek gösterilmektedir:

Önkoşullar

  • Mevcut bir API Management örneği. Henüz oluşturmadıysanız bir tane oluşturun.

  • İstenen Azure aboneliğinde Azure OpenAI'ya erişim verilir. adresinden formu https://aka.ms/oai/accesstamamlayarak Azure OpenAI'ye erişim için başvurabilirsiniz. Sorun yaşıyorsanız bizimle iletişime geçmek için bu depoda bir sorun açın.

  • Modeli dağıtılan bir Azure OpenAI kaynağı. Model dağıtımı hakkında daha fazla bilgi için bkz. kaynak dağıtım kılavuzu.

    Dağıtımın kimliğini (adını) not edin. İçeri aktarılan API'yi API Management'ta test ederken buna ihtiyacınız olacaktır.

  • API Management örneğinden Azure OpenAI kaynağına erişim izni verme izinleri.

1. Seçenek Azure OpenAI Hizmetinden API'leri içeri aktarma

Azure OpenAI API'sini Doğrudan Azure OpenAI Hizmeti'nden API Management'a aktarabilirsiniz. API'yi içeri aktardığınızda API Management şunları otomatik olarak yapılandırıyor:

Azure OpenAI API'sini API Management'a aktarmak için:

  1. Azure portalında API Management örneğine gidin.

  2. Soldaki menüde, API'ler'in altında API'ler>+ API Ekle'yi seçin.

  3. Azure kaynağından oluştur'un altında Azure OpenAI Hizmeti'ne tıklayın.

    Portalda Azure OpenAI Hizmetinden API oluşturma işleminin ekran görüntüsü.

  4. Temel Bilgiler sekmesinde:

    1. İçeri aktarmak istediğiniz Azure OpenAI kaynağını seçin.

    2. İsteğe bağlı olarak bir Azure OpenAI API sürümü seçin. Seçmezseniz, en son üretime hazır REST API sürümü varsayılan olarak kullanılır.

    3. API için bir Görünen ad ve isteğe bağlı Bir Açıklama girin.

    4. Temel URL'de API Management örneğinizin Azure OpenAI API uç noktalarına erişmek için kullandığı yolu ekleyin. OpenAI SDK uyumluluğunu sağlayın seçeneğini etkinleştirirseniz (önerilen), /openai temel URL'ye otomatik olarak eklenir.

      Örneğin, API Management ağ geçidi uç noktanız isehttps://contoso.azure-api.net, gibi https://contoso.azure-api.net/my-openai-api/openaibir Temel URL ayarlayın.

    5. İsteğe bağlı olarak API ile ilişkilendirilecek bir veya daha fazla ürün seçin. İleri'yi seçin.

  5. İlkeler sekmesinde, isteğe bağlı olarak Azure OpenAI API belirteci tüketimini izlemek ve yönetmek için ilkeleri etkinleştirin. Seçiliyse, API'niz için ve azure-openai-emit-token-metric ilkelerini tanımlayan azure-openai-token-limit ayarları girin veya varsayılanları kabul edin. İlke yapılandırmasını daha sonra ayarlayabilir veya güncelleştirebilirsiniz. Gözden geçir + Oluştur’u seçin.

  6. Ayarlar doğrulandıktan sonra Oluştur'u seçin.

2. Seçenek API Management'a OpenAPI belirtimi ekleme

Alternatif olarak, Azure OpenAI REST API'si için OpenAPI belirtimini el ile indirin ve bunu OpenAPI API'si olarak API Management'a ekleyin.

OpenAPI belirtimini indirme

Azure OpenAI REST API'si için 2024-02-01 GA sürümü gibi OpenAPI belirtimini indirin.

  1. Bir metin düzenleyicisinde indirdiğiniz belirtim dosyasını açın.

  2. Belirtimdeki servers öğesinde, Azure OpenAI Hizmeti uç noktanızın adını belirtimdeki ve default uç noktasının url yer tutucu değerleriyle değiştirin. Örneğin, Azure OpenAI Hizmeti uç noktanız ise contoso.openai.azure.comöğesini aşağıdaki değerlerle güncelleştirin servers :

    • Url: https://contoso.openai.azure.com/openai
    • varsayılan uç nokta: contoso.openai.azure.com
    [...]
"servers": [
    {
      "url": "https://contoso.openai.azure.com/openai",
      "variables": {
        "endpoint": {
          "default": "contoso.openai.azure.com"
        }
      }
    }
  ],
[...]

  3. Api'nin version belirtimdeki değerini not edin. API'yi test etmek için buna ihtiyacınız olacaktır. Örnek: 2024-02-01.

API Management'a OpenAPI belirtimi ekleme

  1. Azure portalında API Management örneğine gidin.
  2. Sol menüde API'ler>+ API Ekle'yi seçin.
  3. Yeni API tanımla'nın altında OpenAPI'yi seçin. API için bir Görünen ad ve Ad girin.
  4. API Management örneğinizdeki Azure OpenAI API uç noktalarına erişmek için ile biten /openai bir API URL'si soneki girin. Örnek: my-openai-api/openai.
  5. Oluştur'u belirleyin.

API içeri aktarılır ve OpenAPI belirtiminden işlemleri görüntüler.

Azure OpenAI API'sinde kimlik doğrulamasını yapılandırma

Azure OpenAI API'sinde kimlik doğrulaması yapmak için bir API anahtarı veya yönetilen kimlik sağlayın. Azure OpenAI API'sini doğrudan API Management örneğine aktardıysanız, API Management örneğinin yönetilen kimliği kullanılarak kimlik doğrulaması otomatik olarak yapılandırılır.

Azure OpenAI API'sini OpenAPI belirtiminden eklediyseniz kimlik doğrulamasını yapılandırmanız gerekir. API Management ilkelerini kullanarak kimlik doğrulamasını yapılandırma hakkında daha fazla bilgi için bkz . Azure OpenAI API'sinde kimlik doğrulaması ve yetkilendirme.

Azure OpenAI API'sini test edin

Azure OpenAI API'nizin beklendiği gibi çalıştığından emin olmak için API Management test konsolunda test edin. API'yi test etmek için Azure OpenAI kaynağında yapılandırılmış bir model dağıtım kimliği (ad) sağlamanız gerekir.

  1. Önceki adımda oluşturduğunuz API’yi seçin.

  2. Test sekmesini seçin.

  3. Azure OpenAI kaynağında dağıttığınız modelle uyumlu bir işlem seçin. Sayfada parametreler ve üst bilgiler için alanlar görüntülenir.

  4. Şablon parametreleri'ne aşağıdaki değerleri girin:

    • deployment-id - Azure OpenAI hizmetindeki bir dağıtımın kimliği
    • api-version - API'yi içeri aktarırken seçtiğiniz API sürümü gibi geçerli bir Azure OpenAI API sürümü. Portalda Azure OpenAI Hizmeti API'sini test etme işleminin ekran görüntüsü.

  5. Gerekirse diğer parametreleri ve üst bilgileri girin. İşleme bağlı olarak, bir İstek gövdesini yapılandırmanız veya güncelleştirmeniz gerekebilir.

    Not

    Test konsolunda API Management otomatik olarak bir Ocp-Apim-Subscription-Key üst bilgisini doldurur ve yerleşik tüm erişimli aboneliğin abonelik anahtarını yapılandırılır. Bu anahtar, API Management örneğindeki her API'ye erişim sağlar. İsteğe bağlı olarak HTTP İsteği'nin yanındaki "göz" simgesini seçerek Ocp-Apim-Subscription-Key üst bilgisini görüntüleyin.

  6. Gönder'i seçin.

    Test başarılı olduğunda, arka uç başarılı bir HTTP yanıt kodu ve bazı verilerle yanıt verir. Yanıtın sonuna, Azure OpenAI API tüketiminizi izlemenize ve yönetmenize yardımcı olacak belirteç kullanım verileri eklenir. Portaldaki API yanıtında belirteç kullanım verilerinin ekran görüntüsü.

Azure OpenAI API'leri için Önbelleğe Alma ilkeleri

API Management, Azure OpenAI Hizmeti API'sini içeri aktarırken yapılandırabileceğiniz ve azure-openai-emit-token-metric ilkelerine ek olarakazure-openai-token-limit, Azure OpenAI API'leri için performansı iyileştirmenize ve gecikme süresini azaltmanıza yardımcı olmak için aşağıdaki önbelleğe alma ilkelerini sağlar:

  • azure-openai-semantic-cache-store
  • azure-openai-semantic-cache-lookup

İlgili içerik