Proteja seus endpoints online gerenciados com isolamento de rede

Artigo
03/05/2024

APLICA-SE A:Azure CLI ml extension v2 (current)Python SDK azure-ai-ml v2 (current)

Neste artigo, você usará o isolamento de rede para proteger um ponto de extremidade online gerenciado. Você criará um ponto de extremidade online gerenciado que usa o ponto de extremidade privado de um espaço de trabalho do Azure Machine Learning para comunicação de entrada segura. Você também configurará o espaço de trabalho com uma rede virtual gerenciada que permite apenas comunicação de saída aprovada para implantações. Finalmente, você criará uma implantação que usa os pontos de extremidade privados da rede virtual gerenciada do espaço de trabalho para comunicação de saída.

Para obter exemplos que usam o método herdado para isolamento de rede, consulte os arquivos de implantação deploy-moe-vnet-legacy.sh (para implantação usando um modelo genérico) e deploy-moe-vnet-mlflow-legacy.sh (para implantação usando um modelo MLflow) no repositório GitHub azureml-examples.

Pré-requisitos

Para usar o Azure Machine Learning, você deve ter uma assinatura do Azure. Se não tiver uma subscrição do Azure, crie uma conta gratuita antes de começar. Experimente hoje mesmo a versão gratuita ou paga do Azure Machine Learning .
Instale e configure a CLI do Azure e a ml extensão para a CLI do Azure. Para obter mais informações, consulte Instalar, configurar e usar a CLI (v2).
Gorjeta

A rede virtual gerenciada do Azure Machine Learning foi apresentada em 23 de maio de 2023. Se você tiver uma versão mais antiga da extensão ml, talvez seja necessário atualizá-la para que os exemplos neste artigo funcionem. Para atualizar a extensão, use o seguinte comando da CLI do Azure:
```
az extension update -n ml
```
Os exemplos de CLI neste artigo pressupõem que você esteja usando o shell Bash (ou compatível). Por exemplo, de um sistema Linux ou Subsistema Windows para Linux.
Você deve ter um Grupo de Recursos do Azure, no qual você (ou a entidade de serviço que usa) precisa ter Contributor acesso. Você terá esse grupo de recursos se tiver configurado sua ml extensão.
Se você quiser usar uma identidade gerenciada atribuída pelo usuário para criar e gerenciar pontos de extremidade online e implantações online, a identidade deve ter as permissões adequadas. Para obter detalhes sobre as permissões necessárias, consulte Configurar a autenticação de serviço. Por exemplo, você precisa atribuir a permissão RBAC adequada para o Azure Key Vault na identidade.

Migrar do método de isolamento de rede herdado para a rede virtual gerenciada

Se você já usou o método herdado anteriormente para isolamento de rede de pontos de extremidade online gerenciados e deseja migrar para usar uma rede virtual gerenciada por espaço de trabalho para proteger seus pontos de extremidade, siga estas etapas:

Exclua todos os cálculos em seu espaço de trabalho.
Habilite a rede virtual gerenciada para seu espaço de trabalho. Para obter mais informações sobre como configurar uma rede gerenciada para seu espaço de trabalho, consulte Isolamento de rede virtual gerenciado pelo espaço de trabalho.
Configure pontos de extremidade privados para comunicação de saída com recursos privados que seus pontos de extremidade online gerenciados precisam acessar. Esses recursos privados incluem uma conta de armazenamento, o Azure Key Vault e o Azure Container Registry (ACR).
(Opcional) Se você estiver integrando com um registro de usuário, configure pontos de extremidade privados para comunicação de saída com seu registro, sua conta de armazenamento e seu ACR.

Limitações

O sinalizador v1_legacy_mode tem de estar desativado (falso) na área de trabalho do Azure Machine Learning. Se este sinalizador estiver ativado, não poderá criar um ponto final online gerido. Para obter mais informações, veja Isolamento de rede com a API v2.
Se o seu espaço de trabalho do Azure Machine Learning tiver um ponto de extremidade privado que foi criado antes de 24 de maio de 2022, você deverá recriar o ponto de extremidade privado do espaço de trabalho antes de configurar seus pontos de extremidade online para usar um ponto de extremidade privado. Para obter mais informações sobre como criar um ponto final privado para a área de trabalho, veja Como configurar um ponto final privado para a área de trabalho do Azure Machine Learning.

Gorjeta

Para confirmar quando um espaço de trabalho foi criado, você pode verificar as propriedades do espaço de trabalho.

No Estúdio, vá para a Directory + Subscription + Workspace seção (canto superior direito do Estúdio) e selecione View all properties in Azure Portal. Selecione a visualização JSON no canto superior direito da página "Visão geral" e, em seguida, escolha a versão mais recente da API. Nesta página, você pode verificar o valor de properties.creationTime.

Como alternativa, use az ml workspace show com CLI,my_ml_client.workspace.get("my-workspace-name") com SDK ou curl em um espaço de trabalho com API REST.
Ao usar o isolamento de rede com pontos de extremidade online, você pode usar recursos associados ao espaço de trabalho (Azure Container Registry (ACR), conta de armazenamento, Cofre de Chaves e Application Insights) de um grupo de recursos diferente do do seu espaço de trabalho. No entanto, esses recursos devem pertencer à mesma assinatura e locatário do seu espaço de trabalho.

Nota

O isolamento de rede descrito neste artigo aplica-se a operações de plano de dados, ou seja, operações que resultam de solicitações de pontuação (ou serviço de modelo). As operações do plano de controle (como solicitações para criar, atualizar, excluir ou recuperar chaves de autenticação) são enviadas ao Gerenciador de Recursos do Azure pela rede pública.

Prepare o seu sistema

Crie as variáveis de ambiente usadas por este exemplo executando os comandos a seguir. Substitua <YOUR_WORKSPACE_NAME> pelo nome a ser usado para seu espaço de trabalho. Substitua <YOUR_RESOURCEGROUP_NAME> pelo grupo de recursos que conterá seu espaço de trabalho.

Gorjeta

antes de criar um novo espaço de trabalho, você deve criar um Grupo de Recursos do Azure para contê-lo. Para obter mais informações, consulte Gerenciar grupos de recursos do Azure.
```
export RESOURCEGROUP_NAME="<YOUR_RESOURCEGROUP_NAME>"
export WORKSPACE_NAME="<YOUR_WORKSPACE_NAME>"
```
Crie o seu espaço de trabalho. O -m allow_only_approved_outbound parâmetro configura uma rede virtual gerenciada para o espaço de trabalho e bloqueia o tráfego de saída, exceto para destinos aprovados.
```
az ml workspace create -g $RESOURCEGROUP_NAME -n $WORKSPACE_NAME -m allow_only_approved_outbound
```
Como alternativa, se você quiser permitir que a implantação envie tráfego de saída para a Internet, remova o comentário do código a seguir e execute-o.
```
# az ml workspace create -g $RESOURCEGROUP_NAME -n $WORKSPACE_NAME -m allow_internet_outbound
```
Para obter mais informações sobre como criar um novo espaço de trabalho ou atualizar seu espaço de trabalho existente para usar uma rede virtual gerenciada, consulte Configurar uma rede virtual gerenciada para permitir a saída da Internet.

Quando o espaço de trabalho é configurado com um ponto de extremidade privado, o Registro de Contêiner do Azure para o espaço de trabalho deve ser configurado para a camada Premium para permitir o acesso por meio do ponto de extremidade privado. Para obter mais informações, veja Escalões de serviço do Azure Container Registry (ACR). Além disso, o espaço de trabalho deve ser definido com a propriedade, pois a criação da implantação envolve a image_build_compute criação de imagens. Consulte Configurar compilações de imagem para obter mais informações.
Configure os padrões para a CLI para que você possa evitar passar os valores para seu espaço de trabalho e grupo de recursos várias vezes.
```
az configure --defaults workspace=$WORKSPACE_NAME group=$RESOURCEGROUP_NAME
```
Clone o repositório de exemplos para obter os arquivos de exemplo para o ponto de extremidade e a implantação e, em seguida, vá para o diretório do /cli repositório.
```
git clone --depth 1 https://github.com/Azure/azureml-examples
cd /cli
```

Os comandos neste tutorial estão no arquivo deploy-managed-online-endpoint-workspacevnet.sh no cli diretório e os arquivos de configuração YAML estão no endpoints/online/managed/sample/ subdiretório.

Criar um endpoint online gerenciado seguro

Para criar um ponto de extremidade online gerenciado seguro, crie o ponto de extremidade em seu espaço de trabalho e defina o ponto de public_network_access extremidade como disabled para controlar a comunicação de entrada. O ponto de extremidade terá que usar o ponto de extremidade privado do espaço de trabalho para comunicação de entrada.

Como o espaço de trabalho está configurado para ter uma rede virtual gerenciada, todas as implantações do ponto de extremidade usarão os pontos de extremidade privados da rede virtual gerenciada para comunicação de saída.

Defina o nome do ponto de extremidade.

export ENDPOINT_NAME="<YOUR_ENDPOINT_NAME>"

Crie um ponto de extremidade com public_network_access desabilitado para bloquear o tráfego de entrada.
```
az ml online-endpoint create --name $ENDPOINT_NAME -f endpoints/online/managed/sample/endpoint.yml --set public_network_access=disabled
```
Se você desabilitar o acesso à rede pública para o ponto de extremidade, a única maneira de invocar o ponto de extremidade é usando um ponto de extremidade privado, que pode acessar o espaço de trabalho, em sua rede virtual. Para obter mais informações, consulte Proteger solicitações de pontuação de entrada e configurar um ponto de extremidade privado para um espaço de trabalho do Azure Machine Learning.

Como alternativa, se você quiser permitir que o ponto de extremidade receba solicitações de pontuação da Internet, descomente o código a seguir e execute-o.
```
# az ml online-endpoint create --name $ENDPOINT_NAME -f endpoints/online/managed/sample/endpoint.yml
```

Crie uma implantação na rede virtual gerenciada pelo espaço de trabalho.

az ml online-deployment create --name blue --endpoint $ENDPOINT_NAME -f endpoints/online/managed/sample/blue-deployment.yml --all-traffic

Obtenha o status da implantação.

az ml online-endpoint show -n $ENDPOINT_NAME

Teste o ponto de extremidade com uma solicitação de pontuação, usando a CLI.

az ml online-endpoint invoke --name $ENDPOINT_NAME --request-file endpoints/online/model-1/sample-request.json

Obtenha logs de implantação.

az ml online-deployment get-logs --name blue --endpoint $ENDPOINT_NAME

Exclua o ponto de extremidade se não precisar mais dele.

az ml online-endpoint delete --name $ENDPOINT_NAME --yes --no-wait

Exclua todos os recursos criados neste artigo. Substitua <resource-group-name> pelo nome do grupo de recursos usado neste exemplo:
```
az group delete --resource-group <resource-group-name>
```

Resolução de Problemas

A criação de pontos finais online falha com a mensagem V1LegacyMode == true

O espaço de trabalho do Azure Machine Learning pode ser configurado para v1_legacy_mode, o que desativa as APIs v2. Os pontos de extremidade online gerenciados são um recurso da plataforma de API v2 e não funcionarão se v1_legacy_mode estiverem habilitados para o espaço de trabalho.

Importante

Consulte a sua equipa de segurança de rede antes de desativar o v1_legacy_mode. Ele pode ter sido habilitado pela sua equipe de segurança de rede por um motivo.

Para obter informações sobre como desativar v1_legacy_modeo , consulte Isolamento de rede com v2.

Falha na criação de pontos finais online com a autenticação baseada em chaves

Use o comando a seguir para listar as regras de rede do Cofre da Chave do Azure para seu espaço de trabalho. Substitua <keyvault-name> pelo nome do cofre de chaves:

az keyvault network-rule list -n <keyvault-name>

A resposta para este comando é semelhante ao seguinte documento JSON:

{
    "bypass": "AzureServices",
    "defaultAction": "Deny",
    "ipRules": [],
    "virtualNetworkRules": []
}

Se o valor de não AzureServicesfor , use as orientações em Configurar configurações de rede do cofre de bypass chaves para defini-lo como AzureServices.

As implementações online falham com um erro de transferência de imagem