Nasazení modelů generující umělé inteligence

  • 2 min

Nejprve je potřeba nasadit model pro chatování s rozhraním API nebo volat, aby přijímal odpovědi na výzvy. Při vytváření nového nasazení je potřeba určit, který základní model se má nasadit. V jednom nebo několika prostředcích Azure OpenAI můžete nasadit libovolný počet nasazení, pokud jejich tokeny za minutu (TPM) zůstanou v rámci kvóty nasazení.

Nasazení pomocí Azure AI Studia

Na stránce Nasazení sady Azure AI Studio můžete vytvořit nové nasazení tak, že v nabídce vyberete název modelu. Dostupné základní modely pocházejí ze seznamu na stránce modely.

Snímek obrazovky s průvodcem nasazením modelu na portálu Azure AI Studio

Na stránce Nasazení v sadě Studio můžete také zobrazit informace o všech nasazeních, včetně názvu nasazení, názvu modelu, verze modelu, stavu, data vytvoření atd.

Nasazení s využitím rozhraní příkazového řádku Azure

Model můžete také nasadit pomocí konzoly. V tomto příkladu nahraďte následující proměnné vlastními hodnotami prostředků:

  • OAIResourceGroup: Nahraďte názvem vaší skupiny prostředků.
  • MyOpenAIResource: nahraďte názvem vašeho prostředku.
  • MyModel: Nahraďte jedinečným názvem modelu.
  • gpt-35-turbo: nahraďte základním modelem, který chcete nasadit.
az cognitiveservices account deployment create \
   -g OAIResourceGroup \
   -n MyOpenAIResource \
   --deployment-name MyModel \
   --model-name gpt-35-turbo \
   --model-version "0301"  \
   --model-format OpenAI \
   --sku-name "Standard" \
   --sku-capacity 1

Nasazení pomocí rozhraní REST API

Model můžete nasadit pomocí rozhraní REST API. V textu požadavku zadáte základní model, který chcete nasadit. Příklad najdete v dokumentaci k Azure OpenAI.