Microsoft Foundry API importálása

Minden API-kezelési szintre vonatkozik

A Microsoft Foundryben üzembe helyezett AI-modellvégpontokat API-kként importálhatja az API Management-példányba. Az AI-átjáróházirendek és más képességek használata az API Managementben az integráció egyszerűsítése, a megfigyelhetőség javítása és a modellvégpontok feletti vezérlés javítása érdekében.

Az API Managementben az AI API-k kezelésével kapcsolatos további információkért lásd:

  • AI-átjáró képességei az Azure API Managementben

Ügyfélkompatibilitási beállítások

Az API Management a Következő ügyfélkompatibilitási beállításokat támogatja a Microsoft Foundry AI API-khoz. Amikor a varázslóval importálja az API-t, válassza ki a modell üzembe helyezéséhez megfelelő lehetőséget. Ez a beállítás határozza meg, hogy az ügyfelek hogyan hívják meg az API-t, és hogy az API Management-példány hogyan irányítja a kéréseket az Foundry eszközhöz.

  • Azure OpenAI: Az Azure OpenAI kezelése a Microsoft Foundry-modell üzembe helyezésében.

    Az ügyfelek meghívják az üzembe helyezést egy /openai végponton, például /openai/deployments/my-deployment/chat/completions. A kérési útvonal tartalmazza az üzembe helyezés nevét. Ezt a lehetőséget akkor használja, ha az Öntödei eszköz csak Azure OpenAI-modelltelepítéseket tartalmaz.

  • Azure AI: Az Azure AI Model Inference API-val közzétett modellvégpontok kezelése a Microsoft Foundryben.

    Az ügyfelek meghívják az üzembe helyezést egy /models végponton, például /my-model/models/chat/completions. A kérelem törzse tartalmazza a telepítés nevét. Ezt a lehetőséget akkor használja, ha rugalmasan szeretne váltani a Azure AI Model Inference API-val közzétett modellek és az Öntödei modellek Azure OpenAI-ban üzembe helyezett modellek között.

  • Azure OpenAI v1 – Az Azure OpenAI kezelése a Microsoft Foundry-modell üzembe helyezéseiben az Azure OpenAI API 1-es verziójának API-jának használatával.

    Az ügyfelek meghívják az üzembe helyezést egy Azure OpenAI v1-modell végpontján, például openai/v1/my-model/chat/completions. A kérelem törzse tartalmazza az üzembe helyezés nevét.

Előfeltételek

  • Egy meglévő API Management-példány. Hozzon létre egyet, amennyiben még nem tette meg.

  • Egy Öntödei eszköz az előfizetésben egy vagy több üzembe helyezett modellel. Ilyenek például a Microsoft Foundryben vagy Azure OpenAI-ban üzembe helyezett modellek.

A Microsoft Foundry API importálása a portál használatával

Az alábbi lépésekkel importálhat egy AI API-t az API Managementbe.

Az API importálásakor az API Management automatikusan konfigurálja a következőket:

  • Műveletek az API REST-végpontjai számára.
  • Rendszer által hozzárendelt identitás, amely rendelkezik az Foundry-eszköz üzembe helyezéséhez szükséges engedélyekkel.
  • Egy backend erőforrás és egy set-backend-service szabályzat, amely az API-kéréseket az Azure AI-végpontra irányítja.
  • Hitelesítés a háttérrendszerhez a példány rendszer által hozzárendelt felügyelt identitásával.
  • (opcionálisan) Szabályzatok az API figyeléséhez és kezeléséhez.

Microsoft Foundry API importálása az API Managementbe:

  1. Az Azure Portalon nyissa meg az API Management-példányt.

  2. A bal oldali menü API-k alatt válassza az hozzáadása lehetőséget.

  3. A A Azure erőforrás létrehozása területen válassza a Microsoft Foundry lehetőséget.

    Képernyőkép egy OpenAI-kompatibilis API portálon való létrehozásáról.

  4. Az AI-szolgáltatás kiválasztása lapon:

    1. Válassza ki azt az előfizetést , amelyben az Öntödei eszközökre szeretne keresni. Ha információt szeretne kapni a modell egy szolgáltatásban való telepítéséről, válassza a szolgáltatás neve melletti üzembe helyezési hivatkozást. Képernyőkép egy AI-szolgáltatás üzembe helyezéséről a portálon.
    2. Válasszon egy Öntödei eszközt.
    3. Válassza a Következőlehetőséget.

  5. Az API konfigurálása lapon:

    1. Adja meg az API megjelenítendő nevét és opcionális leírását .

    2. Az Alap elérési úton adjon meg egy elérési utat, amelyet az API Management-példány használ az üzembehelyezési végpont eléréséhez.

    3. Igény szerint válasszon ki egy vagy több, az API-hoz társítandó terméket .

    4. Az ügyfélkompatibilitásban válassza az alábbi lehetőségek egyikét a támogatni kívánt ügyféltípusok alapján. További információkért tekintse meg az ügyfélkompatibilitási beállításokat .

      • Azure OpenAI – Akkor válassza ezt a lehetőséget, ha az ügyfeleknek csak Azure OpenAI-t kell elérnie a Microsoft Foundry-modell központi telepítéseiben.
      • Azure AI – Válassza ezt a lehetőséget, ha az ügyfeleknek más modellekhez kell hozzáférnie a Microsoft Foundryben.
      • Azure OpenAI v1 – Válassza ezt a lehetőséget, ha az Azure OpenAI API 1-es verzióját szeretné használni az Foundry-modell üzembe helyezésével.

    5. Válassza a Következőlehetőséget.

      Képernyőkép a Microsoft Foundry API konfigurációjáról a portálon.

  6. A Jogkivonat-használat kezelése lapon adja meg a beállításokat, vagy fogadja el azokat az alapértelmezett beállításokat, amelyek a következő szabályzatokat határozzák meg az API figyeléséhez és kezeléséhez:

  7. A szemantikai gyorsítótárazás alkalmazása lapon adja meg a beállításokat, vagy fogadja el azokat az alapértelmezett beállításokat, amelyek meghatározzák a szabályzatokat az API teljesítményének optimalizálásához és a késés csökkentéséhez:

  8. Az AI tartalombiztonság lapján adja meg a beállításokat, vagy fogadja el az alapértelmezett beállításokat az Azure AI Content Safety szolgáltatás konfigurálásához a nem biztonságos tartalommal kapcsolatos kérések blokkolásához:

  9. Válassza a Véleményezés lehetőséget.

  10. Miután a portál érvényesítette a beállításokat, válassza a Létrehozás lehetőséget.

Az AI API tesztelése

Annak érdekében, hogy az AI API a várt módon működjön, tesztelje azt az API Management tesztkonzolon.

  1. Válassza ki az előző lépésben létrehozott API-t.

  2. Kattintson a Teszt fülre.

  3. Válasszon ki egy olyan műveletet, amely kompatibilis a modell üzembe helyezésével. A lapon a paraméterek és fejlécek mezői láthatók.

  4. Szükség szerint adja meg a paramétereket és a fejléceket. A művelettől függően előfordulhat, hogy konfigurálnia vagy frissítenie kell egy kérelem törzsét. Íme egy egyszerű példakérés törzse a csevegés befejezésének műveletéhez:

    {
  "model": "any",
  "messages": [
    {
      "role": "user",
      "content": "Help me plan a trip to Paris",
      "max_tokens": 100
    }
  ]
}

    Megjegyzés:

    A tesztkonzolon az API Management automatikusan hozzáad egy Ocp-Apim-Subscription-Key fejlécet, és beállítja a beépített teljes hozzáférésű előfizetés előfizetési kulcsát. Ez a kulcs hozzáférést biztosít az API Management-példány összes API-hoz. Ha meg szeretné jeleníteni az Ocp-Apim-Subscription-Key fejlécet, válassza a "szem" ikont a HTTP-kérés mellett.

  5. Válassza a Küldés lehetőséget.

    Ha a teszt sikeres, a háttérrendszer egy sikeres HTTP-válaszkóddal és néhány adattal válaszol. A válasz tokenhasználati adatokat tartalmaz, amelyek segítenek a nyelvi modell tokenhasználatának monitorozásában és kezelésében.

Kapcsolódó tartalom

  • Last updated on