Развертывание моделей создания искусственного интеллекта

  • 2 мин

Сначала необходимо развернуть модель для чата или вызова API для получения ответов на запросы. При создании нового развертывания необходимо указать, какую базовую модель необходимо развернуть. Вы можете развернуть любое количество развертываний в одном или нескольких ресурсах Azure OpenAI до тех пор, пока их токены в минуту (TPM) остаются в квоте развертывания.

Развертывание с помощью Azure AI Studio

На странице "Развертывания Azure AI Studio" можно создать новое развертывание, выбрав имя модели в меню. Доступные базовые модели поступают из списка на странице моделей.

Снимок экрана: мастер развертывания модели портала Azure AI Studio.

На странице "Развертывания" в Студии можно также просмотреть сведения обо всех развертываниях , включая имя развертывания, имя модели, версию модели, состояние, дату создания и многое другое.

Развертывание с помощью Azure CLI

Вы также можете развернуть модель с помощью консоли. В этом примере замените следующие переменные собственными значениями ресурсов:

  • OAIResourceGroup: замените имя группы ресурсов
  • MyOpenAIResource: замените имя ресурса
  • MyModel: замените уникальное имя модели
  • gpt-35-turbo: замените базовую модель, которую вы хотите развернуть.
az cognitiveservices account deployment create \
   -g OAIResourceGroup \
   -n MyOpenAIResource \
   --deployment-name MyModel \
   --model-name gpt-35-turbo \
   --model-version "0301"  \
   --model-format OpenAI \
   --sku-name "Standard" \
   --sku-capacity 1

Развертывание с помощью REST API

Модель можно развернуть с помощью REST API. В тексте запроса укажите базовую модель, которую вы хотите развернуть. Пример см. в документации по Azure OpenAI.