Создание и развертывание ресурса Службы OpenAI Azure

В этой статье описывается, как приступить к работе со службой Azure OpenAI и пошаговые инструкции по созданию ресурса и развертыванию модели. Ресурсы в Azure можно создавать различными способами:

• портал Azure.
• ИНТЕРФЕЙСы REST API, Azure CLI, PowerShell или клиентские библиотеки
• Шаблоны Azure Resource Manager (ARM)

В этой статье рассматриваются примеры создания и развертывания ресурсов в портал Azure и Azure CLI.

Необходимые компоненты

• Подписка Azure. Создайте ее бесплатно.
• Службе Azure OpenAI предоставлен доступ в требуемой подписке Azure
• Разрешения доступа для создания ресурсов Azure OpenAI и развертывания моделей.

Примечание.

В настоящее время необходимо отправить приложение для доступа к Службе Azure OpenAI. Чтобы применить к доступу, заполните эту форму. Если вам нужна помощь, откройте эту проблему в этом репозитории, чтобы связаться с корпорацией Майкрософт.

Создание ресурса

Ниже показано, как создать ресурс Azure OpenAI в портал Azure.

Определение ресурса

1. Войдите с помощью подписки Azure в портал Azure.

2. Выберите " Создать ресурс " и найдите Azure OpenAI. При поиске службы нажмите кнопку "Создать".

   

3. На странице "Создание Azure OpenAI" укажите следующие сведения для полей на вкладке "Основные сведения".

   Поле	Description
   Подписка	Подписка Azure, используемая в приложении подключения службы OpenAI Azure.
   Группа ресурсов	Группа ресурсов Azure, содержащая ресурс Azure OpenAI. Вы можете создать новую группу или использовать существующую группу.
   Регион	Расположение экземпляра. Различные расположения могут привести к задержке, но они не влияют на доступность ресурса во время выполнения.
   Имя	Описательное имя ресурса службы Azure OpenAI, например MyOpenAIResource.
   Ценовая категория	Ценовая категория ресурса. В настоящее время для службы Azure OpenAI доступен только уровень "Стандартный". Дополнительные сведения о ценах см. на странице цен Azure OpenAI

   

4. Выберите Далее.

Настройка безопасности сети

На вкладке "Сеть" представлены три параметра типа безопасности:

• Вариант 1. Все сети, включая Интернет, могут получить доступ к этому ресурсу.
• Вариант 2. Выбранные сети, настройка сетевой безопасности для ресурса служб искусственного интеллекта Azure.
• Вариант 3. Отключен, сети не могут получить доступ к этому ресурсу. Можно настроить подключения к частной конечной точке, которые будут эксклюзивным способом доступа к этому ресурсу.

В зависимости от выбранного параметра может потребоваться предоставить дополнительные сведения.

Вариант 1. Разрешить все сети

Первый вариант позволяет всем сетям, включая Интернет, получить доступ к ресурсу. Этот параметр является настройкой по умолчанию. Для этого параметра не требуются дополнительные параметры.

Вариант 2. Разрешить только определенные сети

Второй вариант позволяет определить определенные сети, которые могут получить доступ к ресурсу. При выборе этого параметра страницы обновляются следующие обязательные поля:

Поле	Description
Виртуальная сеть	Укажите виртуальные сети, которым разрешен доступ к ресурсу. Имя виртуальной сети по умолчанию можно изменить в портал Azure.
Подсети	Укажите подсети, которым разрешен доступ к ресурсу. Имя подсети по умолчанию можно изменить в портал Azure.

В разделе брандмауэра представлено необязательное поле диапазона адресов, которое можно использовать для настройки параметров брандмауэра для ресурса.

Вариант 3. Отключение сетевого доступа

Третий вариант позволяет отключить сетевой доступ к ресурсу. При выборе этого параметра страница обновляется, чтобы включить таблицу частной конечной точки .

В качестве параметра можно добавить частную конечную точку для доступа к ресурсу. Выберите " Добавить частную конечную точку" и завершите настройку конечной точки.

Подтверждение конфигурации и создание ресурса

1. Нажмите кнопку "Далее " и настройте все теги для ресурса по мере необходимости.

2. Нажмите кнопку "Далее ", чтобы перейти к последнему этапу процесса: просмотр и отправка.

3. Подтвердите параметры конфигурации и нажмите кнопку "Создать".

4. В портал Azure отображается уведомление о доступности нового ресурса. Выберите Перейти к ресурсу.

   

Развертывание модели

Прежде чем создавать текст или вывод, необходимо развернуть модель. Вы можете выбрать одну из нескольких доступных моделей в Azure OpenAI Studio.

Чтобы развернуть модель, выполните следующие действия.

1. Войдите в Azure OpenAI Studio.

2. Выберите подписку и ресурс Azure OpenAI для работы и выберите команду "Использовать ресурс".

3. В разделе "Управление" выберите "Развертывания".

4. Выберите "Создать новое развертывание " и настройте следующие поля:

   Поле	Description
   Выбор модели	Доступность модели зависит от региона. Список доступных моделей для каждого региона см . в сводной таблице модели и доступности регионов.
   Имя развертывания	Тщательно выбирайте имя. Имя развертывания используется в коде для вызова модели с помощью клиентских библиотек и REST API.
   Дополнительные параметры (необязательно)	При необходимости можно задать дополнительные параметры, необходимые для ресурса. — Для фильтра содержимого назначьте фильтр содержимого развертыванию. — Для маркеров в минуту настройте маркеры в минуту (TPM), чтобы задать эффективное ограничение скорости для развертывания. Это значение можно изменить в любое время с помощью меню "Квоты ". Динамическая квота позволяет воспользоваться дополнительными квотами при наличии дополнительной емкости.

5. Выберите модель из раскрывающегося списка.

6. Введите имя развертывания для идентификации модели.

   Внимание

   При доступе к модели через API необходимо ссылаться на имя развертывания, а не имя базовой модели в вызовах API, что является одним из ключевых различий между OpenAI и Azure OpenAI. Для OpenAI требуется только имя модели. Azure OpenAI всегда требует имени развертывания, даже если используется параметр модели. В наших документах часто используются примеры, в которых имена развертываний представлены как идентичные именам моделей, чтобы указать, какая модель работает с определенной конечной точкой API. В конечном счете имена развертываний могут соответствовать любым соглашениям об именовании для вашего варианта использования.

7. Для первого развертывания оставьте параметры "Дополнительные" заданными по умолчанию.

8. Нажмите кнопку создания.

В таблице развертываний показана новая запись, соответствующая созданной модели.

По завершении развертывания состояние развертывания модели изменится на успешное выполнение.

Необходимые компоненты

• Подписка Azure. Создайте ее бесплатно.
• Службе Azure OpenAI предоставлен доступ в требуемой подписке Azure
• Разрешения доступа для создания ресурсов Azure OpenAI и развертывания моделей.
• Интерфейс командной строки Azure. Дополнительные сведения см. в статье "Установка Azure CLI".

Примечание.

В настоящее время необходимо отправить приложение для доступа к Службе Azure OpenAI. Чтобы применить к доступу, заполните эту форму. Если вам нужна помощь, откройте эту проблему в этом репозитории, чтобы связаться с корпорацией Майкрософт.

Вход в Azure CLI

Войдите в Azure CLI или выберите Open Cloudshell на следующих шагах.

создание группы ресурсов Azure;

Чтобы создать ресурс Azure OpenAI, вам потребуется группа ресурсов Azure. При создании ресурса с помощью Azure CLI можно также создать новую группу ресурсов или указать Azure использовать существующую группу ресурсов. В следующем примере показано, как создать новую группу ресурсов с именем OAIResourceGroup с помощью команды az group create . Группа ресурсов создается в расположении "Восточная часть США".

az group create \
--name OAIResourceGroup \
--location eastus

Создание ресурса

Используйте команду az cognitiveservices account create, чтобы создать ресурс Azure OpenAI в группе ресурсов. В следующем примере создается ресурс MyOpenAIResource в группе ресурсов OAIResourceGroup . При попытке примера обновите код, чтобы использовать требуемые значения для группы ресурсов и имени ресурса, а также идентификатор <подписки> Azure.

az cognitiveservices account create \
--name MyOpenAIResource \
--resource-group OAIResourceGroup \
--location eastus \
--kind OpenAI \
--sku s0 \
--subscription <subscriptionID>

Получение сведений о ресурсе

После создания ресурса можно использовать различные команды, чтобы найти полезные сведения о экземпляре службы OpenAI Azure. В следующих примерах показано, как получить базовый URL-адрес конечной точки REST API и ключи доступа для нового ресурса.

Получение URL-адреса конечной точки

Используйте команду az cognitiveservices account show, чтобы получить базовый URL-адрес конечной точки REST API для ресурса. В этом примере мы перенаправляем выходные данные команды через обработчик jq JSON, чтобы найти .properties.endpoint значение.

При попытке примера обновите код, чтобы использовать значения для группы ресурсов myResourceGroupName> и ресурса< myResourceName>.<

az cognitiveservices account show \
--name <myResourceName> \
--resource-group  <myResourceGroupName> \
| jq -r .properties.endpoint

Получение первичного ключа API

Чтобы получить ключи доступа для ресурса, используйте команду az cognitiveservices account key list . В этом примере мы перенаправляем выходные данные команды через обработчик jq JSON, чтобы найти .key1 значение.

При попытке примера обновите код, чтобы использовать значения для группы ресурсов и ресурса.

az cognitiveservices account keys list \
--name <myResourceName> \
--resource-group  <myResourceGroupName> \
| jq -r .key1

Развертывание модели

Чтобы развернуть модель, используйте команду создания учетной записи az cognitiveservices. В следующем примере вы развернете экземпляр text-embedding-ada-002 модели и присвойте ему имя MyModel. При попытке примера обновите код, чтобы использовать значения для группы ресурсов и ресурса. Вам не нужно изменять model-versionmodel-format значения или sku-capacitysku-name значения.

az cognitiveservices account deployment create \
--name <myResourceName> \
--resource-group  <myResourceGroupName> \
--deployment-name MyModel \
--model-name text-embedding-ada-002 \
--model-version "1"  \
--model-format OpenAI \
--sku-capacity "1" \
--sku-name "Standard"

Внимание

При доступе к модели через API необходимо ссылаться на имя развертывания, а не имя базовой модели в вызовах API, что является одним из ключевых различий между OpenAI и Azure OpenAI. Для OpenAI требуется только имя модели. Azure OpenAI всегда требует имени развертывания, даже если используется параметр модели. В наших документах часто используются примеры, в которых имена развертываний представлены как идентичные именам моделей, чтобы указать, какая модель работает с определенной конечной точкой API. В конечном счете имена развертываний могут соответствовать любым соглашениям об именовании для вашего варианта использования.

Удаление модели из ресурса

Вы можете удалить любую модель, развернутую из ресурса, с помощью команды az cognitiveservices account deployment delete . В следующем примере вы удалите модель с именем MyModel. При попытке примера обновите код, чтобы использовать значения для группы ресурсов, ресурса и развернутой модели.

az cognitiveservices account deployment delete \
--name <myResourceName> \
--resource-group  <myResourceGroupName> \
--deployment-name MyModel

Удаление ресурса

Если вы хотите очистить после этих упражнений, вы можете удалить ресурс Azure OpenAI, удалив ресурс с помощью Azure CLI. Вы также можете удалить группу ресурсов. Если вы решили удалить группу ресурсов, все ресурсы, содержащиеся в группе, также удаляются.

Чтобы удалить группу ресурсов и связанные с ней ресурсы, используйте команду az cognitiveservices account delete .

Если вы не собираетесь продолжать использовать ресурсы, созданные в этих упражнениях, выполните следующую команду, чтобы удалить группу ресурсов. Обязательно обновите пример кода, чтобы использовать значения для группы ресурсов и ресурса.

az cognitiveservices account delete \
--name <myResourceName> \
--resource-group  <myResourceGroupName>

Необходимые компоненты

• Подписка Azure. Создайте ее бесплатно.
• Службе Azure OpenAI предоставлен доступ в требуемой подписке Azure
• Разрешения доступа для создания ресурсов Azure OpenAI и развертывания моделей.
• Azure PowerShell. Дополнительные сведения см. в статье "Установка Azure PowerShell".

Примечание.

В настоящее время необходимо отправить приложение для доступа к Службе Azure OpenAI. Чтобы применить к доступу, заполните эту форму. Если вам нужна помощь, откройте эту проблему в этом репозитории, чтобы связаться с корпорацией Майкрософт.

Вход в Azure PowerShell

Войдите в Azure PowerShell или выберите Open CloudShell на следующих шагах.

создание группы ресурсов Azure;

Чтобы создать ресурс Azure OpenAI, вам потребуется группа ресурсов Azure. При создании нового ресурса с помощью Azure PowerShell можно также создать новую группу ресурсов или указать Azure использовать существующую группу. В следующем примере показано, как создать новую группу ресурсов с именем OAIResourceGroup с помощью команды New-AzResourceGroup . Группа ресурсов создается в расположении "Восточная часть США".

New-AzResourceGroup -Name OAIResourceGroup -Location eastus

Создание ресурса

Используйте команду New-AzCognitiveServicesAccount для создания ресурса Azure OpenAI в группе ресурсов. В следующем примере создается ресурс MyOpenAIResource в группе ресурсов OAIResourceGroup . При попытке примера обновите код, чтобы использовать требуемые значения для группы ресурсов и имени ресурса, а также идентификатор <подписки> Azure.

New-AzCognitiveServicesAccount -ResourceGroupName OAIResourceGroup -Name MyOpenAIResource -Type OpenAI -SkuName S0 -Location eastus

Получение сведений о ресурсе

После создания ресурса можно использовать различные команды, чтобы найти полезные сведения о экземпляре службы OpenAI Azure. В следующих примерах показано, как получить базовый URL-адрес конечной точки REST API и ключи доступа для нового ресурса.

Получение URL-адреса конечной точки

Используйте команду Get-AzCognitiveServicesAccount, чтобы получить базовый URL-адрес конечной точки REST API для ресурса. В этом примере мы перенаправляем выходные данные команды с помощью командлета Select-Object , чтобы найти endpoint значение.

При попытке примера обновите код, чтобы использовать значения для группы <myResourceGroupName> ресурсов и ресурса <myResourceName>.

Get-AzCognitiveServicesAccount -ResourceGroupName OAIResourceGroup -Name MyOpenAIResource |
  Select-Object -Property endpoint

Получение первичного ключа API

Чтобы получить ключи доступа для ресурса, используйте команду Get-AzCognitiveServicesAccountKey . В этом примере мы перенаправляем выходные данные команды с помощью командлета Select-Object , чтобы найти Key1 значение.

При попытке примера обновите код, чтобы использовать значения для группы ресурсов и ресурса.

Get-AzCognitiveServicesAccountKey -Name MyOpenAIResource -ResourceGroupName OAIResourceGroup |
  Select-Object -Property Key1

Развертывание модели

Чтобы развернуть модель, используйте команду New-AzCognitiveServicesAccountDeployment . В следующем примере вы развернете экземпляр text-embedding-ada-002 модели и присвойте ему имя MyModel. При попытке примера обновите код, чтобы использовать значения для группы ресурсов и ресурса. Вам не нужно изменять model-versionmodel-format значения или sku-capacitysku-name значения.

$model = New-Object -TypeName 'Microsoft.Azure.Management.CognitiveServices.Models.DeploymentModel' -Property @{
    Name = 'text-embedding-ada-002'
    Version = '2'
    Format = 'OpenAI'
}

$properties = New-Object -TypeName 'Microsoft.Azure.Management.CognitiveServices.Models.DeploymentProperties' -Property @{
    Model = $model
}

$sku = New-Object -TypeName "Microsoft.Azure.Management.CognitiveServices.Models.Sku" -Property @{
    Name = 'Standard'
    Capacity = '1'
}

New-AzCognitiveServicesAccountDeployment -ResourceGroupName OAIResourceGroup -AccountName MyOpenAIResource -Name MyModel -Properties $properties -Sku $sku

Внимание

При доступе к модели через API необходимо ссылаться на имя развертывания, а не имя базовой модели в вызовах API, что является одним из ключевых различий между OpenAI и Azure OpenAI. Для OpenAI требуется только имя модели. Azure OpenAI всегда требует имени развертывания, даже если используется параметр модели. В наших документах часто используются примеры, в которых имена развертываний представлены как идентичные именам моделей, чтобы указать, какая модель работает с определенной конечной точкой API. В конечном счете имена развертываний могут соответствовать любым соглашениям об именовании для вашего варианта использования.

Удаление модели из ресурса

Вы можете удалить любую модель, развернутую из ресурса, с помощью команды Remove-AzCognitiveServicesAccountDeployment . В следующем примере вы удалите модель с именем MyModel. При попытке примера обновите код, чтобы использовать значения для группы ресурсов, ресурса и развернутой модели.

Remove-AzCognitiveServicesAccountDeployment -ResourceGroupName OAIResourceGroup -AccountName MyOpenAIResource -Name MyModel

Удаление ресурса

Если вы хотите очистить после этих упражнений, вы можете удалить ресурс Azure OpenAI, удалив ресурс с помощью Azure PowerShell. Вы также можете удалить группу ресурсов. Если вы решили удалить группу ресурсов, все ресурсы, содержащиеся в группе, также удаляются.

Чтобы удалить группу ресурсов и связанные с ней ресурсы, используйте команду Remove-AzCognitiveServicesAccount .

Если вы не собираетесь продолжать использовать ресурсы, созданные в этих упражнениях, выполните следующую команду, чтобы удалить группу ресурсов. Обязательно обновите пример кода, чтобы использовать значения для группы ресурсов и ресурса.

Remove-AzCognitiveServicesAccount -Name MyOpenAIResource -ResourceGroupName OAIResourceGroup

Следующие шаги

• Выполните вызовы API и создайте текст с помощью кратких руководств по Службе Azure OpenAI.
• Дополнительные сведения о моделях службы Azure OpenAI.
• Сведения о ценах см. на странице цен Azure OpenAI