Sdílet prostřednictvím

Importovat rozhraní Microsoft Foundry API

PLATÍ PRO: Všechny úrovně služby správy rozhraní API

Koncové body modelu AI nasazené v Microsoft Foundry můžete importovat do vaší instance služby API Management jako rozhraní API. Pomocí zásad brány AI a dalších funkcí ve službě API Management můžete zjednodušit integraci, zlepšit pozorovatelnost a zlepšit kontrolu nad koncovými body modelu.

Další informace o správě rozhraní API AI ve službě API Management:

Možnosti kompatibility klientů

Api Management podporuje dvě možnosti kompatibility klientů pro rozhraní API AI z Microsoft Foundry. Při importu rozhraní API pomocí průvodce zvolte možnost, která je vhodná pro nasazení modelu. Možnost určuje, jak klienti volají rozhraní API a jak instance služby API Management směruje požadavky na službu AI.

  • Azure OpenAI – Správa Azure OpenAI v nasazeních modelů Microsoft Foundry

    Klienti volají nasazení v koncovém /openai bodu, například /openai/deployments/my-deployment/chat/completions. Název nasazení se předává v cestě požadavku. Tuto možnost použijte, pokud vaše služba AI zahrnuje pouze nasazení modelu Azure OpenAI.

  • Azure AI – Správa koncových bodů modelu v Microsoft Foundry, které jsou zveřejněné prostřednictvím rozhraní API pro odvozování modelů Azure AI

    Klienti volají nasazení v koncovém /models bodu, například /my-model/models/chat/completions. Název nasazení je předán v textu požadavku. Tuto možnost použijte, pokud chcete flexibilně přepínat mezi modely vystavenými prostřednictvím rozhraní API pro odvozování modelů Azure AI a modelů nasazených v Azure OpenAI v modelech Foundry.

Požadavky

  • Existující instance služby API Management. Vytvořte ho, pokud jste to ještě neudělali.

  • Služba Azure AI ve vašem předplatném s jedním nebo více nasazenými modely. Mezi příklady patří modely nasazené v Microsoft Foundry nebo Azure OpenAI.

Import rozhraní Microsoft Foundry API pomocí portálu

Pomocí následujícího postupu naimportujte rozhraní API AI do služby API Management.

Při importu rozhraní API služba API Management automaticky nakonfiguruje:

  • Operace pro každý koncový bod rozhraní API REST API
  • Identita přiřazená systémem s potřebnými oprávněními pro přístup k nasazení služby AI.
  • Zdroj backend a zásada nastavení služby back-end, která směruje požadavky API na koncový bod služby AI.
  • Ověřování back-endu pomocí spravované identity přiřazené systémem instance
  • (volitelně) Zásady, které vám pomůžou monitorovat a spravovat rozhraní API.

Import rozhraní API Microsoft Foundry do služby API Management:

  1. Na webu Azure Portal přejděte k vaší instanci služby API Management.

  2. V nabídce vlevo v části APIs vyberte APIs>+ Přidat API.

  3. V části Vytvořit z prostředku Azure vyberte Microsoft Foundry.

    Snímek obrazovky s vytvořením rozhraní API kompatibilního s OpenAI na portálu

  4. Na kartě Vybrat službu AI :

    1. Vyberte předplatné , ve kterém chcete vyhledat služby AI. Pokud chcete získat informace o nasazení modelu ve službě, vyberte odkaz nasazení vedle názvu služby. Snímek obrazovky nasazení pro službu AI na portálu
    2. Vyberte službu AI.
    3. Vyberte Další.

  5. Na kartě Konfigurovat rozhraní API :

    1. Zadejte zobrazovaný název a volitelný popis pro rozhraní API.

    2. V základní cestě zadejte cestu, kterou vaše instance služby API Management používá pro přístup ke koncovému bodu nasazení.

    3. Volitelně vyberte jeden nebo více produktů , které chcete přidružit k rozhraní API.

    4. V kompatibilitě klienta vyberte některou z následujících možností na základě typů klientů, které chcete podporovat. Další informace najdete v tématu Možnosti kompatibility klienta .

      • Azure OpenAI – Tuto možnost vyberte, pokud klienti potřebují přístup jenom k Azure OpenAI v nasazení modelu Microsoft Foundry.
      • Azure AI – Tuto možnost vyberte, pokud vaši klienti potřebují přístup k jiným modelům v Microsoft Foundry.

    5. Vyberte Další.

      Snímek obrazovky s konfigurací rozhraní MICROSOFT Foundry API na portálu

  6. Na kartě Správa spotřeby tokenů volitelně zadejte nastavení nebo přijměte výchozí hodnoty, které definují následující zásady, které vám pomůžou monitorovat a spravovat rozhraní API:

  7. Na kartě Použít sémantické ukládání do mezipaměti volitelně zadejte nastavení nebo přijměte výchozí hodnoty, které definují zásady, které pomáhají optimalizovat výkon a snížit latenci rozhraní API:

  8. V bezpečí obsahu AI volitelně zadejte nastavení nebo přijměte výchozí nastavení a nakonfigurujte službu Zabezpečení obsahu Azure AI tak, aby blokovala výzvy s nebezpečným obsahem:

  9. Vyberte Zkontrolovat.

  10. Po ověření nastavení vyberte Vytvořit.

Testování rozhraní API AI

Pokud chcete zajistit, aby vaše rozhraní API AI fungovalo podle očekávání, otestujte ho v testovací konzole služby API Management.

  1. Vyberte rozhraní API, které jste vytvořili v předchozím kroku.

  2. Vyberte kartu Test.

  3. Vyberte operaci, která je kompatibilní s nasazením modelu. Na stránce se zobrazí pole pro parametry a záhlaví.

  4. Podle potřeby zadejte parametry a hlavičky. V závislosti na operaci možná budete muset nakonfigurovat nebo aktualizovat text požadavku.

    Poznámka:

    V testovací konzoli služba API Management automaticky vyplní hlavičku Ocp-Apim-Subscription-Key a nakonfiguruje klíč předplatného pro integrované předplatné s plným přístupem. Tento klíč umožňuje přístup ke každému rozhraní API v instanci služby API Management. Volitelně můžete zobrazit hlavičku Ocp-Apim-Subscription-Key výběrem ikony oka vedle požadavku HTTP.

  5. Vyberte Odeslat.

    Když je test úspěšný, back-end odpoví úspěšným kódem odpovědi HTTP a některými daty. Připojeno k odpovědi je data o využití tokenů, která vám pomůžou monitorovat a spravovat spotřebu tokenů jazykového modelu.

Související obsah

  • Last updated on