Sdílet prostřednictvím


Import rozhraní Google Gemini API kompatibilní s OpenAI

PLATÍ PRO: Všechny úrovně služby správy rozhraní API

Tento článek ukazuje, jak importovat rozhraní Google Gemini API, které je kompatibilní s OpenAI, pro přístup k modelům, jako je gemini-2.0-flash. Pro tyto modely může Azure API Management spravovat koncový bod dokončení chatu kompatibilní s OpenAI.

Další informace o správě rozhraní API AI ve službě API Management:

Požadavky

Import rozhraní Gemini API kompatibilní s OpenAI pomocí portálu

  1. Na webu Azure Portal přejděte k vaší instanci služby API Management.

  2. V nabídce vlevo v části APIs vyberte APIs>+ Přidat API.

  3. V části Definovat nové rozhraní API vyberte rozhraní API jazykového modelu.

    Snímek obrazovky s vytvářením rozhraní API předávacího jazykového modelu na portálu

  4. Na kartě Konfigurovat rozhraní API :

    1. Zadejte zobrazovaný název a volitelný popis pro rozhraní API.

    2. V adrese URL zadejte následující základní adresu URL z dokumentace k kompatibilitě Gemini OpenAI: https://generativelanguage.googleapis.com/v1beta/openai

    3. V cestě připojte cestu, kterou vaše instance služby API Management používá ke směrování požadavků do koncových bodů rozhraní Gemini API.

    4. V části Typ vyberte Vytvořit rozhraní API OpenAI.

    5. Do přístupového klíče zadejte následující:

      1. Název hlavičky: Autorizace.
      2. Hodnota hlavičky (klíč):< a pak váš klíč rozhraní API pro rozhraní Gemini API.

    Snímek obrazovky importu rozhraní API Gemini LLM na portálu

  5. Na zbývajících kartách volitelně nakonfigurujte zásady pro správu spotřeby tokenů, sémantické ukládání do mezipaměti a zabezpečení obsahu AI. Podrobnosti najdete v tématu Import rozhraní API jazykového modelu.

  6. Vyberte Zkontrolovat.

  7. Po ověření nastavení vyberte Vytvořit.

API Management vytvoří rozhraní API a nakonfiguruje následující:

  • Back-endový prostředek a politika set-backend-service, které směrují požadavky rozhraní API na koncový bod Google Gemini.
  • Přístup k back-endu LLM pomocí klíče rozhraní Gemini API, který jste zadali. Klíč je chráněný jako tajná hodnota pojmenovaná ve službě API Management.
  • (volitelně) Zásady, které vám pomůžou monitorovat a spravovat rozhraní API.

Test modelu Gemini

Po importu rozhraní API můžete otestovat koncový bod dokončení chatu pro rozhraní API.

  1. Vyberte rozhraní API, které jste vytvořili v předchozím kroku.

  2. Vyberte kartu Test.

  3. Vyberte POST Creates a model response for the given chat conversation operaci, což je POST požadavek na /chat/completions koncový bod.

  4. V části Text požadavku zadejte následující KÓD JSON a zadejte model a ukázkový příkazový řádek. V tomto příkladu se použije model gemini-2.0-flash.

    {
        "model": "gemini-2.0-flash",
        "messages": [
            {
                "role": "system",
                "content": "You are a helpful assistant"
            },
            {
                "role": "user",
                "content": "How are you?"
            }
        ],
        "max_tokens": 50
    }
    

    Když je test úspěšný, back-end odpoví úspěšným kódem odpovědi HTTP a některými daty. Připojeno k odpovědi je data o využití tokenů, která vám pomůžou monitorovat a spravovat spotřebu tokenů jazykového modelu.

    Snímek obrazovky s testováním rozhraní API Gemini LLM na portálu