Aracılığıyla paylaş

Microsoft Foundry API'sini içeri aktarma

UYGULANANLAR: Tüm API Management katmanları

Microsoft Foundry'de dağıtılan yapay zeka modeli uç noktalarını API'ler olarak API Management örneğinize aktarabilirsiniz. Tümleştirmeyi basitleştirmek, gözlemlenebilirliği geliştirmek ve model uç noktaları üzerinde denetimi geliştirmek için API Management'taki yapay zeka ağ geçidi ilkelerini ve diğer özellikleri kullanın.

API Management'ta yapay zeka API'lerini yönetme hakkında daha fazla bilgi edinmek için bkz:

İstemci uyumluluk seçenekleri

API Management, Microsoft Foundry'den yapay zeka API'leri için aşağıdaki istemci uyumluluk seçeneklerini destekler. Sihirbazı kullanarak API'yi içeri aktarırken model dağıtımınıza uygun seçeneği belirleyin. seçeneği, istemcilerin API'yi nasıl çağırdığını ve API Management örneğinin istekleri Foundry aracına nasıl yönlendirdiğini belirler.

  • Azure OpenAI: Microsoft Foundry model dağıtımlarında Azure OpenAI'i yönetin.

    İstemciler, /openai gibi bir /openai/deployments/my-deployment/chat/completions uç noktasında dağıtıma erişir. İstek yolu dağıtım adını içerir. Foundry aracınız yalnızca Azure OpenAI model dağıtımlarını içeriyorsa bu seçeneği kullanın.

  • Azure AI: Microsoft Foundry'de Azure AI Model Çıkarım API'si aracılığıyla kullanıma sunulan model uç noktalarını yönetin.

    İstemciler, bir /models uç noktası gibi /my-model/models/chat/completions bir noktada dağıtımı çağırır. İstek gövdesi dağıtım adını içerir. Azure AI Model Çıkarım API'sinde sunulan modeller ile Foundry Modellerindeki Azure OpenAI'e dağıtılan modeller arasında geçiş yapma esnekliği istiyorsanız, bu seçeneği kullanın.

  • Azure OpenAI v1 - Azure OpenAI API sürüm 1 API'sini kullanarak Microsoft Foundry model dağıtımlarında Azure OpenAI'yi yönetin.

    İstemciler, bir Azure OpenAI v1 model uç noktasında openai/v1/my-model/chat/completions dağıtımı çağırır. İstek gövdesi dağıtım adını içerir.

Önkoşullar

  • Mevcut bir API Management örneği. Henüz oluşturmadıysanız bir tane oluşturun.

  • Aboneliğinizde bir veya daha fazla modeli dağıtılmış olan bir Foundry aracı. Örnek olarak Microsoft Foundry veya Azure OpenAI'de dağıtılan modeller verilebilir.

Portalı kullanarak Microsoft Foundry API'sini içeri aktarma

Bir yapay zeka API'sini API Management'a aktarmak için aşağıdaki adımları kullanın.

API'yi içeri aktardığınızda API Management şunları otomatik olarak yapılandırıyor:

  • API'nin REST API uç noktalarının her biri için işlemler.
  • Döküm aracı dağıtımına erişmek için gerekli izinlere sahip sistem tarafından atanan kimlik.
  • API isteklerini Azure AI Services uç noktasına yönlendiren backend kaynağı ve set-backend-service ilkesi.
  • Sistemin atadığı yönetilen kimliğini kullanarak instance'ın back-end'ine kimlik doğrulama.
  • (isteğe bağlı olarak) API'yi izlemenize ve yönetmenize yardımcı olacak ilkeler.

Microsoft Foundry API'sini API Management'a aktarmak için:

  1. Azure portalında API Management örneğine gidin.

  2. Soldaki menüde, API'ler'in altında API'ler>+ API Ekle'yi seçin.

  3. Azure kaynağından oluştur altında Microsoft Foundry öğesini seçin.

    Portalda OpenAI uyumlu bir API oluşturma işleminin ekran görüntüsü.

  4. Yapay Zeka Hizmeti Seç sekmesinde:

    1. Döküm Araçları'nın arandığı Aboneliği seçin. Bir hizmetteki model dağıtımları hakkında bilgi almak için hizmet adının yanındaki dağıtımlar bağlantısını seçin. Portalda yapay zeka hizmetinin dağıtımlarının ekran görüntüsü.
    2. Bir Döküm aracı seçin.
    3. sonrakiseçin.

  5. API'yi Yapılandır sekmesinde:

    1. API için bir Görünen ad ve isteğe bağlı bir açıklama girin.

    2. Temel yol alanına API Management örneğinizin dağıtım uç noktasına erişmek için kullandığı bir yol girin.

    3. İsteğe bağlı olarak API ile ilişkilendirilecek bir veya daha fazla Ürün seçin.

    4. İstemci uyumluluğu bölümünde, desteklemek istediğiniz istemci türlerine göre aşağıdaki seçeneklerden birini belirleyin. Daha fazla bilgi için bkz. İstemci uyumluluk seçenekleri .

      • Azure OpenAI - İstemcilerinizin yalnızca Microsoft Foundry model dağıtımlarında Azure OpenAI'ye erişmesi gerekiyorsa bu seçeneği belirleyin.
      • Azure AI - İstemcilerinizin Microsoft Foundry'deki diğer modellere erişmesi gerekiyorsa bu seçeneği belirleyin.
      • Azure OpenAI v1 - Azure OpenAI API sürüm 1'i Döküm modeli dağıtımlarınızla kullanmak istiyorsanız bu seçeneği belirleyin.

    5. sonrakiseçin.

      Portalda Microsoft Foundry API yapılandırmasının ekran görüntüsü.

  6. Belirteç tüketimini yönet sekmesinde isteğe bağlı olarak ayarları girin veya API'yi izlemeye ve yönetmeye yardımcı olmak için aşağıdaki ilkeleri tanımlayan varsayılanları kabul edin:

  7. Anlamsal önbelleğe alma uygula sekmesinde, isteğe bağlı olarak ayarları girin veya API'nin performansını iyileştirmeye ve gecikme süresini azaltmaya yardımcı olacak ilkeleri tanımlayan varsayılanları kabul edin:

  8. Yapay zeka içerik güvenliği sekmesinde, isteğe bağlı olarak ayarları girin veya Azure AI İçerik Güvenliği hizmetini güvenli olmayan içeriğe sahip istemleri engelleyecek şekilde yapılandırmak için varsayılanları kabul edin:

  9. İncele'yi seçin.

  10. Portal ayarları doğruladıktan sonra Oluştur'u seçin.

Yapay zeka API'sini test edin

Yapay zeka API'nizin beklendiği gibi çalıştığından emin olmak için API Management test konsolunda test edin.

  1. Önceki adımda oluşturduğunuz API’yi seçin.

  2. Test sekmesini seçin.

  3. Model dağıtımıyla uyumlu bir işlem seçin. Sayfada parametreler ve üst bilgiler için alanlar görüntülenir.

  4. Gerektiğinde parametreleri ve üst bilgileri girin. İşleme bağlı olarak, bir İstek gövdesini yapılandırmanız veya güncelleştirmeniz gerekebilir. Sohbet tamamlama işlemi için temel bir örnek istek gövdesi aşağıda verilmiştir:

    {
  "model": "any",
  "messages": [
    {
      "role": "user",
      "content": "Help me plan a trip to Paris",
      "max_tokens": 100
    }
  ]
}

    Uyarı

    Test konsolunda API Management otomatik olarak bir Ocp-Apim-Subscription-Key üst bilgisi ekler ve yerleşik tüm erişimli abonelik için abonelik anahtarını ayarlar. Bu anahtar, API Management örneğindeki her API'ye erişim sağlar. İsteğe bağlı olarak Ocp-Apim-Subscription-Key üst bilgisini görüntülemek için HTTP İsteği'nin yanındaki "göz" simgesini seçin.

  5. Gönder'i seçin.

    Test başarılı olduğunda, arka uç başarılı bir HTTP yanıt kodu ve bazı verilerle yanıt verir. Yanıt, dil modeli belirteci tüketiminizi izlemenize ve yönetmenize yardımcı olacak belirteç kullanım verilerini içerir.

İlgili içerik

  • Last updated on