Краткое руководство. Интеграция Azure OpenAI

Статья
02/02/2024

Примечание.

Azure Spring Apps — это новое название службы Azure Spring Cloud. Старое название будет еще некоторое время встречаться в наших материалах, пока мы не обновим ресурсы, такие как снимки экрана, видео и схемы.

Эта статья относится к:❌ Basic/Standard ✔️ Enterprise

В этом кратком руководстве показано, как интегрировать Azure OpenAI с приложениями, развернутыми в плане Azure Spring Apps Enterprise.

Azure OpenAI позволяет приложениям воспользоваться преимуществами крупномасштабных моделей искусственного интеллекта с глубоким пониманием языка и кода, чтобы обеспечить новые возможности разработки и понимания.

В следующем видео показано, как Azure Spring Apps использует Azure OpenAI для создания интеллектуальных приложений:

Необходимые компоненты

Учетная запись Azure с активной подпиской. Создайте учетную запись бесплатно .
Доступ, предоставленный Azure OpenAI. Дополнительные сведения см. в статье "Запрос доступа к службе Azure OpenAI".
Изучите и выполните раздел "Требования" плана Enterprise в Azure Marketplace.
Azure CLI версии 2.45.0 или более поздней.
Git.
jq
Расширение плана Azure Spring Apps Enterprise. Используйте следующую команду, чтобы удалить предыдущие версии и установить последнее расширение плана Enterprise. Если вы ранее установили spring-cloud расширение, удалите его, чтобы избежать несоответствий конфигурации и версий.
```
az extension add --upgrade --name spring
az extension remove --name spring-cloud
```
Выполните действия, описанные в статье "Сборка и развертывание приложений в Azure Spring Apps" с помощью плана Enterprise.

Подготовка Azure OpenAI

Чтобы добавить ИИ в приложение, создайте учетную запись Azure OpenAI и разверните языковые модели. Ниже описано, как подготовить учетную запись Azure OpenAI и развернуть языковые модели с помощью Azure CLI:

Чтобы создать учетную запись Azure OpenAI, используйте следующую команду:

az cognitiveservices account create \
    --resource-group <resource-group-name> \
    --name <open-ai-service-name> \
    --location <region> \
    --kind OpenAI \
    --sku s0 \
    --custom-domain <open-ai-service-name>

Используйте следующие команды, чтобы создать развертывания модели для text-embedding-ada-002 экземпляра службы Azure OpenAI и gpt-35-turbo-16k в ней:

az cognitiveservices account deployment create \
    --resource-group <resource-group-name> \
    --name <open-ai-service-name> \
    --deployment-name text-embedding-ada-002 \
    --model-name text-embedding-ada-002 \
    --model-version "2"  \
    --model-format OpenAI \
    --sku-name "Standard" \
    --sku-capacity 1

az cognitiveservices account deployment create \
    --resource-group <resource-group-name> \
    --name <open-ai-service-name> \
    --deployment-name gpt-35-turbo-16k \
    --model-name gpt-35-turbo-16k \
    --model-version "0613"  \
    --model-format OpenAI \
    --sku-name "Standard" \
    --sku-capacity 1

Развертывание службы "Помощь" в Azure Spring Apps

Выполните следующие действия, чтобы создать, настроить и развернуть приложение службы поддержки в Azure Spring Apps.

Чтобы создать новую службу ИИ, assist-serviceиспользуйте следующую команду:

az spring app create \
    --resource-group <resource-group-name> \
    --name assist-service \
    --service <Azure-Spring-Apps-service-instance-name> \
    --instance-count 1 \
    --memory 1Gi

Используйте следующую команду, чтобы настроить Spring Cloud Gateway с маршрутом службы поддержки:

az spring gateway route-config create \
    --resource-group <resource-group-name> \
    --service <Azure-Spring-Apps-service-instance-name> \
    --name assist-routes \
    --app-name assist-service \
    --routes-file azure-spring-apps-enterprise/resources/json/routes/assist-service.json

Используйте следующую команду, чтобы получить базовый URL-адрес конечной точки REST API для службы Azure OpenAI:

export SPRING_AI_AZURE_OPENAI_ENDPOINT=$(az cognitiveservices account show \
    --name <open-ai-service-name> \
    --resource-group <resource-group-name> \
    | jq -r .properties.endpoint)

Чтобы получить первичный ключ API, используйте следующую команду:

export SPRING_AI_AZURE_OPENAI_APIKEY=$(az cognitiveservices account keys list \
    --name <open-ai-service-name> \
    --resource-group <resource-group-name> \
    | jq -r .key1)

Используйте следующую команду, чтобы развернуть приложение службы поддержки:

az spring app deploy 
    --resource-group <resource-group-name> \
    --name assist-service \
    --service <Azure-Spring-Apps-service-instance-name> \
    --source-path apps/acme-assist \
    --build-env BP_JVM_VERSION=17 \
    --env \
        SPRING_AI_AZURE_OPENAI_ENDPOINT=${SPRING_AI_AZURE_OPENAI_ENDPOINT} \
        SPRING_AI_AZURE_OPENAI_APIKEY=${SPRING_AI_AZURE_OPENAI_APIKEY} \
        SPRING_AI_AZURE_OPENAI_MODEL=gpt-35-turbo-16k \
        SPRING_AI_AZURE_OPENAI_EMBEDDINGMODEL=text-embedding-ada-002

Теперь проверьте приложение Fitness Store в браузере. Выберите ASK TO FITASSIST , чтобы взаимодействовать с приложением службы поддержки.
В FitAssist введите , что мне нужен велосипед для работы и наблюдения за выходными данными, созданными приложением службы поддержки:

Очистка ресурсов

Если вы планируете продолжить работу с последующими краткими руководствами и статьями, эти ресурсы можно не удалять. Удалите ненужную группу ресурсов. Ресурсы в ней будут также удалены. Чтобы удалить группу ресурсов с помощью Azure CLI, используйте следующие команды:

echo "Enter the Resource Group name:" &&
read resourceGroupName &&
az group delete --name $resourceGroupName &&
echo "Press [ENTER] to continue ..."

Следующие шаги

Перейдите к любому из следующих необязательных кратких руководств:

Поделиться через