Poznámka:
Přístup k této stránce vyžaduje autorizaci. Můžete se zkusit přihlásit nebo změnit adresáře.
Přístup k této stránce vyžaduje autorizaci. Můžete zkusit změnit adresáře.
PLATÍ PRO: Všechny úrovně služby správy rozhraní API
Tento článek ukazuje, jak importovat rozhraní Google Gemini API, které je kompatibilní s OpenAI, pro přístup k modelům, jako je gemini-2.0-flash. Pro tyto modely může Azure API Management spravovat koncový bod dokončení chatu kompatibilní s OpenAI.
Další informace o správě rozhraní API AI ve službě API Management:
Požadavky
- Existující instance služby API Management. Vytvořte ho, pokud jste to ještě neudělali.
- Klíč API Gemini. Pokud ho nemáte, vytvořte ho v Google AI Studiu a uložte ho na bezpečném místě.
Import rozhraní Gemini API kompatibilní s OpenAI pomocí portálu
Na webu Azure Portal přejděte k vaší instanci služby API Management.
V nabídce vlevo v části APIs vyberte APIs>+ Přidat API.
V části Definovat nové rozhraní API vyberte rozhraní API jazykového modelu.
Na kartě Konfigurovat rozhraní API :
Zadejte zobrazovaný název a volitelný popis pro rozhraní API.
V adrese URL zadejte následující základní adresu URL z dokumentace k kompatibilitě Gemini OpenAI:
https://generativelanguage.googleapis.com/v1beta/openaiV cestě připojte cestu, kterou vaše instance služby API Management používá ke směrování požadavků do koncových bodů rozhraní Gemini API.
V části Typ vyberte Vytvořit rozhraní API OpenAI.
Do přístupového klíče zadejte následující:
- Název hlavičky: Autorizace.
Hodnota hlavičky (klíč): <a pak váš klíč rozhraní API pro rozhraní Gemini API.
Na zbývajících kartách volitelně nakonfigurujte zásady pro správu spotřeby tokenů, sémantické ukládání do mezipaměti a zabezpečení obsahu AI. Podrobnosti najdete v tématu Import rozhraní API jazykového modelu.
Vyberte Zkontrolovat.
Po ověření nastavení vyberte Vytvořit.
API Management vytvoří rozhraní API a nakonfiguruje následující:
- Back-endový prostředek a politika set-backend-service, které směrují požadavky rozhraní API na koncový bod Google Gemini.
- Přístup k back-endu LLM pomocí klíče rozhraní Gemini API, který jste zadali. Klíč je chráněný jako tajná hodnota pojmenovaná ve službě API Management.
- (volitelně) Zásady, které vám pomůžou monitorovat a spravovat rozhraní API.
Test modelu Gemini
Po importu rozhraní API můžete otestovat koncový bod dokončení chatu pro rozhraní API.
Vyberte rozhraní API, které jste vytvořili v předchozím kroku.
Vyberte kartu Test.
Vyberte
POST Creates a model response for the given chat conversationoperaci, což jePOSTpožadavek na/chat/completionskoncový bod.V části Text požadavku zadejte následující KÓD JSON a zadejte model a ukázkový příkazový řádek. V tomto příkladu se použije model
gemini-2.0-flash.{ "model": "gemini-2.0-flash", "messages": [ { "role": "system", "content": "You are a helpful assistant" }, { "role": "user", "content": "How are you?" } ], "max_tokens": 50 }Když je test úspěšný, back-end odpoví úspěšným kódem odpovědi HTTP a některými daty. Připojeno k odpovědi je data o využití tokenů, která vám pomůžou monitorovat a spravovat spotřebu tokenů jazykového modelu.