Implementar e executar contentores na Instância de Contentor do Azure

Com as etapas a seguir, dimensione os aplicativos de serviços de IA do Azure na nuvem facilmente com as Instâncias de Contêiner do Azure. A contentorização ajudará a concentrar os esforços na criação das aplicações em vez de ser na gestão da infraestrutura. Para obter mais informações sobre a utilização de contentores, veja funcionalidades e benefícios.

Pré-requisitos

A receita funciona com qualquer contêiner de serviços de IA do Azure. O recurso de serviços de IA do Azure deve ser criado antes de usar a receita. Cada serviço de IA do Azure que dá suporte a contêineres tem um artigo "Como instalar" para instalar e configurar o serviço para um contêiner. Alguns serviços exigem um arquivo ou conjunto de arquivos como entrada para o contêiner, é importante que você entenda e tenha usado o contêiner com êxito antes de usar esta solução.

• Um recurso do Azure para o serviço de IA do Azure que você está usando.

• URL do ponto de extremidade do recurso de serviço do Azure AI - revise "Como instalar" do seu serviço específico para o contêiner, para descobrir onde a URL do ponto de extremidade está no portal do Azure e qual é a aparência de um exemplo correto da URL. O formato exato pode mudar de serviço para serviço.

• Chave de recurso do serviço Azure AI - as chaves estão na página Chaves do recurso do Azure. Você só precisa de uma das duas chaves. A chave é uma cadeia de 32 caracteres alfanuméricos.

• Um único contêiner de serviços de IA do Azure em seu host local (seu computador). Certifique-se de que consegue:

  • Puxe a imagem para baixo com um docker pull comando.
  • Execute o contêiner local com êxito com todas as definições de configuração necessárias com um docker run comando.
  • Chame o ponto de extremidade do contêiner, obtendo uma resposta de HTTP 2xx e uma resposta JSON de volta.

Todas as variáveis entre colchetes angulares, <>, precisam ser substituídas por seus próprios valores. Esta substituição inclui os suportes angulares.

Importante

O contêiner LUIS requer um .gz arquivo de modelo que é puxado em tempo de execução. O contentor deve poder aceder a este ficheiro de modelo através de uma montagem de volume da instância de contentor. Para carregar um ficheiro de modelo, siga estes passos:

1. Crie um compartilhamento de arquivos do Azure. Anote o nome da Conta de armazenamento do Azure, da chave e do nome da partilha de ficheiros, pois precisará deles mais tarde.
2. exportar o seu modelo LUIS (aplicação embalada) a partir do portal LUIS.
3. No portal do Azure, navegue até a página Visão geral do recurso da sua conta de armazenamento e selecione Compartilhamentos de arquivos.
4. Selecione o nome da partilha de ficheiros que criou recentemente e, em seguida, selecione Carregar. Em seguida, carregue seu aplicativo empacotado.

Portal do Azure

Criar um recurso de Instância de Contêiner do Azure usando o portal do Azure

1. Vá para a página Criar para instâncias de contêiner.

2. Na guia Noções básicas, insira os seguintes detalhes:

   Definição	Value
   Subscrição	Selecione a sua subscrição.
   Grupo de recursos	Selecione o grupo de recursos disponível ou crie um novo, como cognitive-services.
   Nome do contentor	Insira um nome como cognitive-container-instance. O nome deve estar em maiúsculas inferiores.
   Location	Selecione uma região para implantação.
   Tipo de imagem	Se a imagem do contêiner estiver armazenada em um registro de contêiner que não exija credenciais, escolha Public. Se o acesso à imagem do contêiner exigir credenciais, escolha Private. Consulte repositórios e imagens de contêiner para obter detalhes sobre se a imagem do contêiner é Public Private ou não ou ("Visualização pública").
   Nome da imagem	Insira o local do contêiner de serviços de IA do Azure. O local é o que é usado como argumento para o docker pull comando. Consulte os repositórios de contêiner e as imagens para obter os nomes de imagens disponíveis e seu repositório correspondente. O nome da imagem deve ser totalmente qualificado, especificando três partes. Primeiro, o registro do contêiner, depois o repositório, finalmente o nome da imagem: <container-registry>/<repository>/<image-name>. Aqui está um exemplo, mcr.microsoft.com/azure-cognitive-services/keyphrase representaria a imagem Key Phrase Extraction no Microsoft Container Registry no repositório de serviços de IA do Azure. Outro exemplo é, containerpreview.azurecr.io/microsoft/cognitive-services-speech-to-text que representaria a imagem Speech to text no repositório da Microsoft do registro de contêiner Container Preview.
   Tipo de SO	Linux
   Tamanho	Altere o tamanho para as recomendações sugeridas para seu contêiner específico do Azure AI: 2 núcleos de CPU 4 GB

3. Na guia Rede, insira os seguintes detalhes:

   Definição	Value
   Portas	Defina a porta TCP como 5000. Expõe o contêiner na porta 5000.

4. Na guia Avançado, insira as Variáveis de Ambiente necessárias para as configurações de cobrança de contêiner do recurso Instância de Contêiner do Azure:

   Key	valor
   ApiKey	Copiado da página Chaves e ponto de extremidade do recurso. É uma cadeia de 32 caracteres alfanuméricos sem espaços ou traços, xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx.
   Billing	O URL do ponto de extremidade copiado da página Chaves e ponto de extremidade do recurso.
   Eula	accept

5. Selecione Rever e Criar

6. Após a validação ser aprovada, clique em Criar para concluir o processo de criação

7. Quando o recurso é implantado com êxito, ele está pronto

CLI

Criar um recurso de Instância de Contêiner do Azure a partir da CLI do Azure

O YAML abaixo define o recurso de Instância de Contêiner do Azure. Copie e cole o conteúdo em um novo arquivo, nomeado my-aci.yaml e substitua os valores comentados pelo seu. Consulte o formato do modelo para YAML válido. Consulte os repositórios de contêiner e as imagens para obter os nomes de imagens disponíveis e seu repositório correspondente. Para obter mais informações sobre a referência YAML para instâncias de contêiner, consulte Referência de YAML: Instâncias de contêiner do Azure.

apiVersion: 2018-10-01
location: # < Valid location >
name: # < Container Group name >
properties:
  imageRegistryCredentials: # This is only required if you are pulling a non-public image that requires authentication to access. For example Text Analytics for health.
  - server: containerpreview.azurecr.io
    username: # < The username for the preview container registry >
    password: # < The password for the preview container registry >
  containers:
  - name: # < Container name >
    properties:
      image: # < Repository/Image name >
      environmentVariables: # These env vars are required
        - name: eula
          value: accept
        - name: billing
          value: # < Service specific Endpoint URL >
        - name: apikey
          value: # < Service specific API key >
      resources:
        requests:
          cpu: 4 # Always refer to recommended minimal resources
          memoryInGb: 8 # Always refer to recommended minimal resources
      ports:
        - port: 5000
  osType: Linux
  volumes: # This node, is only required for container instances that pull their model in at runtime, such as LUIS.
  - name: aci-file-share
    azureFile:
      shareName: # < File share name >
      storageAccountName: # < Storage account name>
      storageAccountKey: # < Storage account key >
  restartPolicy: OnFailure
  ipAddress:
    type: Public
    ports:
    - protocol: tcp
      port: 5000
tags: null
type: Microsoft.ContainerInstance/containerGroups

Nota

Nem todos os locais têm a mesma disponibilidade de CPU e memória. Consulte a tabela de locais e recursos para obter a lista de recursos disponíveis para contêineres por local e sistema operacional.

Vamos confiar no arquivo YAML que criamos para o az container create comando. Na CLI do Azure, execute o az container create comando substituindo o <resource-group> por seu próprio. Além disso, para proteger valores dentro de uma implantação YAML, consulte valores seguros.

az container create -g <resource-group> -f my-aci.yaml

A saída do comando é Running... se válida, depois de algum tempo a saída muda para uma cadeia de caracteres JSON que representa o recurso ACI recém-criado. É mais do que provável que a imagem do contêiner não esteja disponível por um tempo, mas o recurso agora está implantado.

Gorjeta

Preste muita atenção aos locais dos serviços de IA do Azure na visualização pública, pois o YAML precisará ser ajustado de acordo para corresponder ao local.

Usar a instância do contêiner

Portal do Azure

1. Selecione Visão geral e copie o endereço IP. Será um endereço IP numérico como 55.55.55.55.

2. Abra uma nova guia do navegador e use o endereço IP, por exemplo, http://<IP-address>:5000 (http://55.55.55.55:5000). Você verá a página inicial do contêiner, informando que o contêiner está em execução.

   

3. Selecione Descrição da API de Serviço para exibir a página swagger do contêiner.

4. Selecione qualquer uma das APIs POST e selecione Experimentar. Os parâmetros são exibidos, incluindo a entrada. Preencha os parâmetros.

5. Selecione Executar para enviar a solicitação para sua instância de contêiner.

   Você criou e usou com êxito contêineres de IA do Azure na Instância de Contêiner do Azure.

CLI

Validar se um contêiner está em execução

Há várias maneiras de validar se o contêiner está em execução. Localize o endereço IP externo e a porta exposta do contêiner em questão e abra seu navegador da Web favorito. Use as várias URLs de solicitação a seguir para validar que o contêiner está em execução. Os URLs de solicitação de exemplo listados aqui são http://localhost:5000, mas seu contêiner específico pode variar. Certifique-se de confiar no endereço IP externo e na porta exposta do contêiner.

URL do Pedido	Propósito
http://localhost:5000/	O contentor fornece uma home page.
http://localhost:5000/ready	Solicitada com GET, essa URL fornece uma verificação de que o contêiner está pronto para aceitar uma consulta no modelo. Essa solicitação pode ser usada para sondas de vivacidade e prontidão do Kubernetes.
http://localhost:5000/status	Também solicitada com GET, essa URL verifica se a chave de api usada para iniciar o contêiner é válida sem causar uma consulta de ponto de extremidade. Essa solicitação pode ser usada para sondas de vivacidade e prontidão do Kubernetes.
http://localhost:5000/swagger	O contentor fornece um conjunto completo de documentação para os pontos finais e uma funcionalidade Experimentar. Com esse recurso, você pode inserir suas configurações em um formulário HTML baseado na Web e fazer a consulta sem ter que escrever nenhum código. Depois que a consulta retorna, um comando CURL de exemplo é fornecido para demonstrar os cabeçalhos HTTP e o formato de corpo necessários.

Nota

Se você estiver executando o contêiner Análise de Texto para integridade, use a seguinte URL para enviar consultas: http://localhost:5000/text/analytics/v3.2-preview.1/entities/health