Jak nasadit modely Azure OpenAI pomocí aplikace Azure AI Studio

  • Článek

Poznámka:

Azure AI Studio je aktuálně ve verzi Public Preview. Tato verze Preview je poskytována bez smlouvy o úrovni služeb a nedoporučujeme ji pro produkční úlohy. Některé funkce se nemusí podporovat nebo mohou mít omezené možnosti. Další informace najdete v dodatečných podmínkách použití pro verze Preview v Microsoft Azure.

Služba Azure OpenAI nabízí různorodou sadu modelů s různými možnostmi a cenovými body. Dostupnost modelů se liší podle oblasti. Nasazení modelu Azure OpenAI můžete vytvářet v Azure AI Studio a používat je pomocí toku instrukcí nebo svého oblíbeného nástroje. Další informace o podrobnostech jednotlivých modelů najdete v části Modely služby Azure OpenAI Service.

Nasazení modelu Azure OpenAI z katalogu modelů

Pokud chcete upravit model Azure OpenAI a pracovat s ním v dětském prostředí Azure AI Studio , musíte nejprve do projektu nasadit základní model Azure OpenAI. Jakmile je model nasazený a dostupný ve vašem projektu, můžete využívat jeho koncový bod rozhraní REST API tak, jak je, nebo ho dále přizpůsobit s vlastními daty a dalšími komponentami (vkládání, indexy atd.).

  1. Zvolte model, který chcete nasadit z katalogu modelů Azure AI Studio. Případně můžete zahájit nasazení výběrem + Vytvořit z your project>deployments

  2. Na stránce s podrobnostmi o kartě modelu vyberte Nasadit pro projekt.

  3. Zvolte projekt, do kterého chcete model nasadit. U modelů Azure OpenAI se filtr obsahu Azure AI Sejf ty automaticky zapne.

  4. Vyberte Nasadit.

  5. Přistaneš na hřišti. Výběrem možnosti Zobrazit kód získáte ukázky kódu, které můžete použít k využívání nasazeného modelu ve vaší aplikaci.

Regionální dostupnost a omezení kvót modelu

U modelů Azure OpenAI se výchozí kvóta pro modely liší podle modelu a oblasti. Některé modely mohou být dostupné pouze v některých regionech. Další informace najdete v tématu Správa kvóty a limitů Azure OpenAI Service.

Kvóta pro nasazení a odvozování modelu

V případě modelů Azure OpenAI nasazení a odvozování využívá kvótu přiřazenou k vašemu předplatnému v jednotkách tokenů za minutu (TPM). Když si zaregistrujete Azure AI Studio, dostanete výchozí kvótu pro většinu dostupných modelů. Potom přiřaďte čip TPM každému nasazení při jeho vytvoření a dostupnou kvótu pro tento model se sníží o tuto částku. Můžete dál vytvářet nasazení a přiřazovat je TPM, dokud nedosáhnete limitu kvóty.

Jakmile k tomu dojde, můžete vytvořit pouze nová nasazení tohoto modelu:

  • Požádejte o další kvótu odesláním formuláře pro navýšení kvóty.
  • Upravte přidělenou kvótu pro jiná nasazení modelu, aby se uvolnily tokeny pro nová nasazení na portálu Azure OpenAI.

Další informace o kvótě najdete v tématu Kvóta služby Azure AI Studio a správa kvóty služby Azure OpenAI.

Další kroky