Nasazení modelu

  • 5 min

Po vytvoření prostředku Azure OpenAI musíte nasadit model, který zahájí volání rozhraní API a generování textu. K výběru a nasazení modelu použijte rozhraní API pro nasazení.

Nasazení

Nasazení poskytuje koncový bod základnímu modelu Azure OpenAI nebo modelu podle vašeho výběru. Během nasazování můžete model přizpůsobit tak, aby vyhovoval vašim potřebám, a to zadáním modelu kon režim stanu ration, zpracování verzí a velikosti nasazení.

Důležité

Po nasazení obdržíte dvě klíčové položky:

  • Koncový bod, což je odkaz, který můžete použít k volání modelu nebo provádění požadavků HTTP.
  • Klíč rozhraní API, který funguje jako heslo k ověření požadavků na koncový bod a udělení přístupu k vašemu účtu.

Azure OpenAI Studio

Azure OpenAI Studio je webové rozhraní, které umožňuje interakci se službou Azure OpenAI. Pomocí dětského hřiště můžete experimentovat s možnostmi služeb odesláním výzev a generováním dokončení. Ke správě nasazení a modelů můžete také použít Azure OpenAI Studio. Přihlášení k Nástroji Azure OpenAI Studio:

  • Přejděte přímo do rozhraní, vyberte své předplatné a vyberte váš cloudový prostředek.
    Nebo
  • Na webu přejděte přes kartu cloudového prostředku na webu Azure Portal.

Co můžete dělat s Azure OpenAI Studio

  • Vytváření a správa nasazení
  • Testování funkčnosti v dětském hřišti.
  • Zpracování datových souborů pro trénování
  • Správa kvót
  • Filtrovat obsah.

Zřízení nasazení modelu pomocí Azure CLI

Azure CLI je možné použít místo webu Azure Portal k nasazení cloudových prostředků. Pomocí Azure CLI můžete také vytvořit nasazení modelu zadáním:

  • Název prostředku pro identifikaci účtu, pro který vytváříte nasazení modelu.
  • Název skupiny prostředků, který funguje jako logický kontejner pro uložení vytvořeného prostředku.
  • Název nasazení (volitelný), který pomáhá identifikovat různá nasazení ze stejného modelu. Pokud například odesíláte požadavky prostřednictvím kódu programu, musíte mít název nasazení. Výchozí hodnota je název zvoleného modelu, pokud není zadaný název nasazení.
  • Název typu modelu. Zadejte konkrétní typ modelu v závislosti na tom, co se pokoušíte udělat. Zadejte například generování textu, chat nebo generování obrázků.
  • Formát modelu.
  • Hodnota kapacity skladové položky (volitelné)
  • Název skladové položky (volitelné)

Tady je příklad vytvoření nasazení modelu. Změňte kód tak, aby vyhovoval vašim potřebám.


az cognitiveservices account deployment create \ 
--name cognitiveServiceAccountName \ 
--resource-group resourceGroupName \ 
--deployment-name deploymentName \ 
--model-name gpt-35-turbo \ 
--model-version "0301" \ 
--model-format OpenAI \ 
--sku-capacity "1" \ 
--sku-name "Standard"

Poznámka:

Pokud chcete použít nově vytvořené nasazení z rozhraní příkazového řádku, musíte načíst adresu URL koncového bodu a klíč rozhraní API. Další informace najdete v tématu Vytvoření a nasazení prostředku služby Azure OpenAI.