Partilhar via

Monitore seus aplicativos de IA generativa (visualização)

Importante

Os itens marcados como (pré-visualização) neste artigo estão neste momento em pré-visualização pública. Esta pré-visualização é fornecida sem um acordo de nível de serviço, e não a recomendamos para trabalhos em produção. Algumas funcionalidades poderão não ser suportadas ou poderão ter capacidades limitadas. Para obter mais informações, veja Termos Suplementares de Utilização para Pré-visualizações do Microsoft Azure.

Monitorar suas aplicações generativas de IA nunca foi tão importante, devido à complexidade e rápida evolução da indústria de IA. O Azure AI Foundry Observability, integrado com o Azure Monitor Application Insights, permite que você monitore continuamente seus aplicativos de IA implantados para garantir que eles tenham desempenho, segurança e produzam resultados de alta qualidade na produção. Além dos recursos de monitoramento contínuo, também fornecemos recursos de avaliação contínua para que os agentes aprimorem ainda mais o painel de observabilidade da Fundição com visibilidade de métricas críticas adicionais de qualidade e segurança.

Observação

Você deve usar um projeto do Foundry para esse recurso. Não há suporte para um projeto baseado em hub . Para obter mais informações, consulte Tipos de projetos.

Como habilitar o monitoramento

Para usar os recursos de monitoramento no Azure AI Foundry, você precisa conectar um recurso do Application Insights ao seu projeto do Azure AI Foundry.

  1. Navegue até Monitoramento no painel de navegação esquerdo do portal do Azure AI Foundry.
  2. Selecione a guia Análise de aplicativos .
  3. Crie um novo recurso do Application Insights, se ainda não tiver um.
  4. Conecte o recurso ao seu projeto AI Foundry.

Recolha de dados de produção para monitorização

A partir daqui, deve começar a coletar telemetria para o seu aplicativo que pode monitorizar nas nossas visualizações integradas. Para isso, recomendamos:

  • A instrumentação de rastreamentos permite capturar dados de telemetria detalhados do seu aplicativo. Esses dados fornecem informações sobre o desempenho, a latência e o comportamento do seu aplicativo em produção.

  • As avaliações contínuas ajudam a monitorar a qualidade e a segurança de seu agente na produção, avaliando suas saídas em relação a métricas e limites predefinidos.

Visualizando resultados de monitoramento

No portal do Azure AI Foundry, a exibição do painel de análise de aplicativos usa sinais do Azure Monitor Application Insights, consultando-os por meio das Pastas de Trabalho do Azure e criando visualizações.

Essas visualizações são projetadas para trazer métricas-chave - consumo de token, latência, exceções, qualidade de resposta em um único painel de vidro que fornece transparência às equipes para rastrear a integridade e a qualidade operacionais, entender tendências e avaliar continuamente para melhorar sua aplicação.

Siga estas etapas para acessar e utilizar a visualização de monitoramento integrada em seu projeto AI Foundry:

  1. Navegue até seu projeto AI Foundry no portal do Azure AI Foundry.
  2. Selecione Monitoramento no painel de navegação esquerdo.
  3. Na guia Análise de aplicativos , revise a visão geral da integridade do seu aplicativo.
  4. Use filtros para especificar um intervalo de tempo, aplicativo e/ou modelo para extrair informações detalhadas.
  5. Se você notar problemas, como métricas de qualidade declinantes, vá para Rastreamento para depurar problemas em seu aplicativo.
  6. Para personalizar ainda mais sua experiência de monitoramento e usar recursos avançados no Azure Monitor, role até a parte inferior e selecione Exibir no Azure Monitor Application Insights.

Observação

Quando você estiver compartilhando essa pasta de trabalho com os membros da equipe, eles devem ter pelo menos a função "Leitor" no recurso do Application Insights conectado para exibir as informações exibidas.

Personalize e partilhe o seu painel

O Application Insights é uma ferramenta poderosa para monitoramento de desempenho de aplicativos (APM) que fornece informações sobre a integridade e o desempenho de seus aplicativos.

Você pode abrir o painel de análise de aplicativos na galeria de pastas de trabalho do Azure Monitor Application Insights selecionando o link Exibir no Azure Monitor Application Insights no final da página.

Este painel é aberto como uma pasta de trabalho editável onde você pode personalizar a pasta de trabalho e salvar de acordo com suas necessidades.

  1. Selecione Editar na barra de comandos. Captura de ecrã do separador 'livros de trabalho' sob monitorização, realçando o botão de edição no portal do Azure.

  2. Modifique os elementos conforme necessário de acordo com seu caso de uso. Selecione ... em um elemento para editar, adicionar, mover/redimensionar, clonar ou remover. Por exemplo, você pode adicionar um bloco usando o KQL para rastrear um atributo personalizado que você está coletando e não mostrado em nossa visualização interna. Captura de ecrã do separador de pastas de trabalho em monitorização, realçando os botões para modificar elementos no portal do Azure.

  3. Guarde as alterações mais recentes e crie vistas diferentes, conforme necessário, selecionando Guardar. Captura de ecrã do separador pastas de trabalho em monitorização, realçando o botão e o separador Guardar no portal do Azure.

  4. Compartilhe com sua equipe selecionando o ícone "Compartilhar" na barra de comandos. Captura de ecrã do separador

Explore e analise com Kusto Query Language (KQL)

KQL (Kusto Query Language) é uma poderosa linguagem de consulta usada no Azure para explorar, analisar e visualizar grandes volumes de telemetria e dados de log.

Na visualização Painel de análise de aplicativos , você pode abrir o link de consulta selecionando no ícone no canto superior direito de um bloco ou gráfico específico.

Captura de ecrã da vista do painel de análise de aplicações que destaca o botão de ligação de consulta aberta no portal do Azure.

Depois de selecionar isso, você pode visualizar e executar as mesmas consultas KQL alimentando sua visão de monitoramento e mergulhar profundamente nos dados relacionados.

Captura de ecrã de registos a destacar o modo KQL e os resultados no portal do Azure.

Configurar Alertas do Azure

Você pode definir regras de Alerta do Azure com base nas consultas KQL anteriores para detetar proativamente problemas com suas operações de pós-produção no futuro. Selecione ... para ver mais opções, como Nova regra de alerta.

Captura de ecrã dos registos destacando o botão para criar nova regra de alerta no portal do Azure.

Selecionar no botão Nova regra de alerta abre um assistente para criar uma regra de alerta no sinal relacionado.

Captura de ecrã do assistente de criação de uma regra de alerta no portal do Azure.

Para saber mais sobre como configurar e gerenciar Alertas do Azure para resolver problemas de forma proativa, consulte Alertas no Azure Monitor.

Conteúdo relacionado