Observação
O acesso a essa página exige autorização. Você pode tentar entrar ou alterar diretórios.
O acesso a essa página exige autorização. Você pode tentar alterar os diretórios.
Este artigo oferece recomendações de gerenciamento para organizações que executam cargas de trabalho de IA no Azure. O foco está em soluções PaaS da Azure para IA.
Gerenciar implantações de IA
Configurações de implantação consistentes aprimoram a segurança, a conformidade e a eficiência operacional em todos os ambientes de IA. As organizações que padronizam sua abordagem de implantação reduzem o descompasso de configuração e garantem um desempenho confiável. Você deve implementar práticas de implantação sistemáticas que se alinhem aos seus requisitos de negócios. Veja como:
Implante em regiões que atendam aos seus requisitos. O posicionamento do modelo depende de requisitos específicos de latência, taxa de transferência e conformidade que determinam o desempenho ideal. Verifique a tabela de disponibilidade de produtos da região do Azure para confirmar o suporte necessário para hardware, recursos e localização de dados antes da implantação, a fim de garantir o desempenho e o alinhamento regulatório.
Monitore os recursos de implantação de IA continuamente. O monitoramento de recursos captura dados de desempenho e identifica problemas antes que eles afetem os usuários. As configurações de diagnóstico capturam logs e métricas para todos os principais serviços, incluindo Foundry e Foundry Tools. Esse monitoramento fornece visibilidade sobre a integridade do sistema e permite a resolução proativa de problemas.
Gerenciar recursos de implantação centralmente. O gerenciamento de recursos centralizados fornece supervisão e controle consistentes em todas as implantações de IA. Por exemplo, use o Microsoft Foundry Control Plane para centralizar o gerenciamento da sua frota de agentes de IA. Essa abordagem garante a alocação de recursos padronizada e o controle de custo. Também gerencie os custos na Foundry.
Use Gerenciamento de API do Azure como um gateway unificado para várias implantações. O Gerenciamento de API fornece segurança consistente, escalabilidade, limitação de taxa, cotas de token e monitoramento centralizado ao integrar vários aplicativos ou equipes. Essa abordagem padroniza os padrões de acesso e reduz a sobrecarga de gerenciamento em seus serviços de IA.
Gerenciar modelos de IA
O monitoramento de modelo garante que as saídas se alinhem aos princípios de IA responsável e mantenham a precisão ao longo do tempo. Os modelos de IA experimentam descompasso devido à alteração de dados, comportamentos do usuário ou fatores externos que podem levar a resultados imprecisos ou preocupações éticas. Você deve implementar o monitoramento contínuo para detectar e resolver essas alterações proativamente. Veja como:
Monitore as saídas do modelo para qualidade e alinhamento. Os processos de monitoramento garantem que as cargas de trabalho permaneçam alinhadas com os destinos de IA responsáveis e entreguem os resultados esperados. Use os recursos de observabilidade do Foundry e monitore aplicativos. Para o Serviço de Agente do Foundry, monitore as implantações do agente.
Acompanhe continuamente as métricas de desempenho do modelo. O monitoramento de desempenho ajuda a identificar problemas quando a precisão ou a qualidade da resposta cai abaixo dos limites aceitáveis. Monitore a latência nos tempos de resposta e a precisão dos resultados de busca vetorial por meio do rastreamento na Foundry.
Considere implementar um gateway de IA generativo para monitoramento aprimorado. Gerenciamento de API do Azure permite recursos de registro em log e monitoramento que as plataformas não fornecem nativamente, incluindo coleta de IP de origem, acompanhamento de texto de entrada e análise de texto de saída. Essa abordagem fornece trilhas de auditoria abrangentes e dados de monitoramento.
Escolha computação. No Foundry, os recursos de computação dão suporte a implantações de modelo essenciais e ajuste fino. Padronizar tipos de computação, runtimes e períodos de desligamento entre instâncias de computação, clusters e opções sem servidor.
Gerenciar dados de IA
A qualidade dos dados determina a precisão e a confiabilidade das saídas do modelo de IA. As organizações que mantêm padrões de dados de alta qualidade alcançam melhor desempenho de modelo e reduzem o risco de resultados tendenciosos ou imprecisos. Você deve implementar práticas sistemáticas de gerenciamento de dados para garantir a qualidade consistente do modelo. Veja como:
Monitore a deriva de dados continuamente. A detecção de descompasso de dados identifica quando os padrões de dados de entrada mudam das linhas de base de treinamento, o que pode prejudicar o desempenho do modelo ao longo do tempo. Acompanhe a precisão e a descompasso de dados em cargas de trabalho de IA gerativas e nãogenerativas para garantir que os modelos permaneçam relevantes e responsivos às condições atuais. Use avaliações no Foundry para estabelecer linhas de base de monitoramento e limites de detecção.
Configure alertas automatizados para degradação de desempenho. Os sistemas de alerta fornecem aviso antecipado quando o desempenho do modelo cai abaixo dos limites aceitáveis, permitindo uma intervenção proativa antes que os problemas afetem os usuários. Configure alertas personalizados para detectar desvios de desempenho e disparar fluxos de trabalho de correção quando os modelos exigirem treinamento ou ajuste.
Verifique os padrões de processamento de dados de qualidade. Os requisitos de preparação de dados diferem entre os tipos de carga de trabalho de IA, mas devem manter padrões de qualidade consistentes em todas as implementações. Para IA generativa, estruture os dados no formato correto com agrupamento, enriquecimento e integração adequados para que o modelo de IA os consuma de forma otimizada. Para obter mais informações, consulte Guia para projetar e desenvolver uma solução RAG.
Implementar a continuidade dos negócios
A continuidade dos negócios garante que os serviços de IA permaneçam disponíveis durante interrupções regionais ou interrupções de serviço. As interrupções de serviço podem afetar operações comerciais críticas que dependem dos recursos de IA, tornando o planejamento de continuidade essencial para a resiliência organizacional. Você deve implementar estratégias de implantação de várias regiões para manter a disponibilidade do serviço. Veja como:
Implantar serviços de IA em várias regiões. As implantações de várias regiões fornecem redundância que mantém a disponibilidade do serviço quando regiões individuais experimentam interrupções ou restrições de capacidade. Implemente estratégias de implantação de várias regiões para o Foundry para garantir uma entrega de serviço consistente.
Configurar mecanismos de contingência automatizados. O failover automatizado reduz o tempo de recuperação e garante a entrega contínua do serviço quando as regiões primárias ficam indisponíveis. Configure o roteamento de tráfego e o balanceamento de carga entre regiões para habilitar transições perfeitas durante interrupções de serviço.