Nota de transparência do agente de operações

O que é uma nota de transparência?

Um sistema de IA inclui não só a tecnologia, mas também as pessoas que a utilizam, as pessoas afetadas por ela e o ambiente onde é implementada. Criar um sistema adequado ao fim a que se destina requer uma compreensão de como a tecnologia funciona, quais são as suas capacidades e limitações e como alcançar o melhor desempenho. As notas de transparência da Microsoft ajudam-no a compreender como funciona a nossa tecnologia de IA, as escolhas que os proprietários do sistema podem fazer que influenciam o desempenho e o comportamento do sistema, e a importância de pensar no sistema como um todo, incluindo a tecnologia, as pessoas e o ambiente. Use notas de transparência ao desenvolver ou implementar o seu próprio sistema, ou partilhe-as com as pessoas que utilizam ou são afetadas pelo seu sistema.

As notas de transparência da Microsoft fazem parte de um esforço mais amplo da Microsoft para pôr em prática os nossos Princípios de IA. Para mais informações, consulte os princípios da IA da Microsoft.

Conceitos básicos do agente de operações de Inteligência em Tempo Real

Introdução

O agente de operações Real-Time Intelligence é uma plataforma para criar agentes que monitorizam fluxos de dados, detetam anomalias ou condições e recomendam ações baseadas em eventos do mundo real. Estes agentes automatizam tarefas, fornecem insights e apoiam a tomada de decisões atempadas. Ao configurar objetivos de negócio, fontes de conhecimento, ações e instruções, o agente cria um plano para acompanhar objetivos, monitorizar dados e aplicar regras para detetar condições. O agente notifica os utilizadores com ações recomendadas caso ocorram condições apropriadas.

Termos principais

  • Fonte de conhecimento: Uma ligação à base de dados que o agente pode usar para encontrar e monitorizar dados.

  • Ferramenta: Uma funcionalidade incorporada que permite ao agente realizar tarefas, como gerar consultas estruturadas a partir de linguagem natural, deteção de anomalias e enviar mensagens de Microsoft Teams ou email.

  • Tópico: Uma sessão de conversa entre um agente e um utilizador. Os threads armazenam mensagens e lidam automaticamente com o truncamento para ajustar o conteúdo ao contexto de um modelo.

  • Playbook: A representação interna do agente das entidades, dados, regras e possíveis ações que compõem o seu manual operacional.

  • Entidade: Um objeto no seu negócio que o agente está a monitorizar. Por exemplo, numa empresa de aluguer de bicicletas, bicicletas e estações de acoplamento podem ser entidades relevantes. Na gestão aeroportuária, as filas de check-in, os pontos de controlo de segurança e os passageiros são entidades relevantes.

  • Instâncias: Ocorrências específicas de uma entidade, como Bike 0451 ou Flight MS1234.

  • Regras: Condições ou padrões nos dados que o agente monitoriza antes de fazer recomendações.

  • Regras autónomas: Regras que têm ações associadas que o agente pode realizar sem uma confirmação humana prévia.

Capabilities

Comportamento do sistema

Quando cria um agente de operações, configura as seguintes definições: objetivos de negócio, fontes de conhecimento, possíveis ações e instruções. Com estas entradas, o agente utiliza grandes modelos de linguagem (LLMs) para criar um manual de entidades, dados mapeados e regras a monitorizar. Pode refinar o modelo ajustando objetivos e instruções. Quando ativas o agente, o agente monitoriza os dados em segundo plano. Quando as condições correspondem às regras, analisa os dados, identifica a causa e recomenda ações para alcançar os objetivos empresariais.

O agente notifica-o através do Teams com alertas em linguagem natural, mantendo-o informado sobre as recomendações iniciais. Pode aprovar, rejeitar ou tornar a regra autónoma, permitindo que o agente aja sem mais confirmação.

Como o agente utiliza LLMs para criar o seu manual e recomendar ações, deve:

  • Reveja cuidadosamente o modelo de comportamento antes de iniciar o agente.

  • Monitorize de perto as recomendações do agente e confirme o raciocínio que utiliza para fazer recomendações antes de agir.

  • Revê cuidadosamente quaisquer regras autónomas que cries com o agente. Estas regras impulsionam a ação automaticamente.

Casos de uso

Utilizações previstas

Podes usar agentes de operações em vários cenários. As utilizações pretendidas do sistema incluem:

  • Gestão de aluguer de bicicletas: Pode configurar o agente de operações para monitorizar continuamente a disponibilidade de bicicletas em várias estações usando dados em tempo real. Defina um objetivo para garantir a disponibilidade de bicicletas, para que encontre as consultas certas para acompanhar esse valor em cada estação de acoplamento.

  • Otimização de turbinas eólicas: O agente monitoriza os dados provenientes dos parques eólicos, acompanhando métricas como a potência e a direção e o ângulo das pás. Procura anomalias ou quedas na potência e recomenda ajustes nos parâmetros de funcionamento.

  • Equilíbrio de inventário de armazém: O agente monitoriza os níveis de stock em vários armazéns em tempo real. Defina como objetivo manter uma distribuição ótima do inventário e evitar esgotamentos ou excessos de stock.

  • Monitorização de despesas: Dê ao agente acesso a dados sobre pedidos de despesas e relatórios. Peça-lhe que sinalize despesas que estejam fora de conformidade com as regras comuns e que detete anomalias nos padrões de longo prazo para cada funcionário ou centro de custos.

  • Automação de resposta a incidentes: O agente monitoriza os registos da infraestrutura de TI e a telemetria à procura de sinais de degradação do serviço ou anomalias de segurança. O seu objetivo é reduzir o tempo médio de deteção (MTTD) e o tempo médio de resolução (MTTR).

Considerações ao escolher outros casos de uso

Encorajamo-lo a aplicar agentes de operações nas suas soluções ou aplicações inovadoras. No entanto, considere os seguintes fatores para garantir que o agente é adequado ao seu caso de uso específico:

  • Evite cenários em que a utilização ou má utilização do sistema possa resultar em danos físicos ou psicológicos significativos para um indivíduo. Por exemplo, cenários que diagnosticam pacientes ou prescrevem medicamentos têm o potencial de causar danos significativos.

  • Evitar cenários em que a utilização ou má utilização do sistema possa ter um impacto consequente nas oportunidades de vida ou no estatuto jurídico. Os exemplos incluem cenários em que o sistema ou agente de IA pode afetar o estatuto legal de um indivíduo, os direitos legais ou o seu acesso a crédito, educação, emprego, cuidados de saúde, habitação, seguros, benefícios de assistência social, serviços, oportunidades ou os termos em que são fornecidos.

  • Evite cenários de alto risco que possam levar a danos. O modelo utilizado num agente pode refletir certas opiniões sociais, preconceitos e outros conteúdos indesejáveis presentes nos dados de treino ou nos exemplos fornecidos no enunciado. Como resultado, alertamos contra o uso de agentes em cenários de alto risco onde comportamentos injustos, pouco fiáveis ou ofensivos possam ser dispendiosos ou causar danos.

  • Considere cuidadosamente casos de uso num domínio ou indústria de alto risco onde as ações do agente são irreversíveis ou altamente consequentes. Essas indústrias incluem, mas não se limitam a, saúde, medicina, finanças ou domínios jurídicos.

  • Considerações legais e regulamentares. As organizações precisam de avaliar potenciais obrigações legais e regulatórias específicas ao utilizar quaisquer serviços e soluções de IA, que podem não ser adequadas para todos os setores ou cenários. As restrições podem variar com base nos requisitos regulamentares regionais ou locais. Além disso, os serviços ou soluções de IA não são projetados e não podem ser usados de maneiras proibidas nos termos de serviço aplicáveis e nos códigos de conduta relevantes.

Limitações

Limitações técnicas, fatores operacionais e intervalos

  • Apesar do treino intensivo da OpenAI e da implementação de controlos responsáveis pela IA pela Microsoft, os serviços de IA são falíveis e probabilísticos. Esta limitação torna difícil bloquear de forma abrangente todo o conteúdo inadequado, levando a potenciais preconceitos, estereótipos ou falta de fundamento no conteúdo gerado por IA. Para mais informações sobre as limitações conhecidas do conteúdo gerado por IA, consulte a Nota de Transparência para Azure OpenAI, que inclui referências aos LLMs por trás dos agentes de operações.

  • Pode dar aos agentes de operações uma vasta gama de instruções e objetivos. A natureza probabilística dos modelos de comportamento dos LLMs significa que pode não conseguir alinhar os agentes com os seus requisitos. A descrição do modelo de comportamento do agente também é gerada usando IA, pelo que pode não ser totalmente precisa.

  • Para usar agentes de operações de forma eficaz, é necessário formação para interagir e beneficiar eficazmente do serviço.

  • Modelos avançados de IA requerem recursos computacionais significativos, o que pode afetar o desempenho, especialmente em ambientes com recursos limitados. Podes experienciar problemas de latência ou desempenho durante os períodos de maior uso.

  • Como os agentes combinam LLMs com sistemas externos, pode ser difícil perceber porque é que escolheu certas ferramentas ou combinações de ferramentas para responder a uma questão. Este desafio complica a confiança e a verificação das saídas ou ações do agente.

  • As organizações precisam de considerar as suas obrigações legais e de conformidade específicas ao utilizar agentes operacionais, especialmente em setores regulados. A Microsoft está a analisar os requisitos regulamentares que se aplicam à Microsoft como fornecedor da tecnologia e a abordá-los no produto através de um processo de melhoria contínua.

  • Através da experiência de utilizador do agente, pode interromper ou desligar rapidamente o agente a qualquer momento. Esta ação impede a monitorização de quaisquer novos dados e de quaisquer novas ações que o agente possa recomendar ou tomar. Ações que o agente invoca noutros sistemas (por exemplo, iniciar um fluxo de trabalho Power Automate) podem não parar imediatamente. O agente lança estas ações como processos independentes que precisa de gerir nessas outras experiências de produto.

  • As mensagens entre o agente e o utilizador são entregues através do Teams. Quando envia mensagens ao agente, o Azure Bot Service processa as mensagens. A utilização do Serviço de bot de IA do Azure tem uma limitação técnica de que cada bot só pode ter um único endpoint global. Para bots de primeira parte do Teams, os pedidos são enviados para o endpoint global e depois redirecionados para um endpoint regional próximo do utilizador. Os agentes de operações utilizam um endpoint localizado na UE, o que significa que os seus dados de utilizador podem ser transferidos para fora da sua região geográfica para processamento.

Desempenho do sistema

Nos sistemas de IA, o desempenho está frequentemente ligado à precisão (com que frequência o sistema fornece resultados corretos). Para agentes de operações, o desempenho é mais flexível, porque os utilizadores podem interpretar as saídas de forma diferente. Os erros ocorrem normalmente quando o agente interpreta mal objetivos, dados ou entidades-chave no processo de negócio. Quando o agente faz recomendações, os utilizadores devem rever cuidadosamente o contexto fornecido antes de aprovar ações.

Práticas recomendadas para melhorar o desempenho do sistema

Para obter os melhores resultados com agentes de operações, concentre-se na criação de prompts detalhados e bem estruturados. Os objetivos e instruções que fornece ajudam o agente a identificar os pontos de dados corretos e as regras para monitorizar alterações ao longo do tempo. Melhorar a precisão definindo explicitamente os valores e condições dos dados que o agente deve monitorizar. Descreva claramente como as ações influenciam os resultados e como se espera que os valores monitorizados mudem.

Dados de alta qualidade são igualmente importantes. Garantir que as estruturas de dados estão bem organizadas, com nomes de colunas significativos em vez de valores codificados. Achatem os dados de eventos aninhados sempre que possível. Esta estrutura facilita ao agente localizar e monitorizar eficazmente a informação relevante.

Avaliação dos agentes de operações

Métodos de avaliação

A plataforma de agentes de operações utiliza um processo rigoroso e em várias fases para avaliar a precisão, segurança e melhoria contínua. No seu núcleo está um ciclo de três etapas: traçar>iterar>avaliar. Este ciclo começa com a implementação de telemetria para monitorizar os processos de tomada de decisão do agente, incluindo planeamento, formação de ontologias, fundamentação de dados, geração de regras e execução. Os conjuntos de dados de avaliação provêm de casos de uso reais e dados sintéticos que introduzem variabilidade. Mede métricas como precisão, convergência, taxas de falha e segurança ao longo do ciclo de vida do agente, desde o desenvolvimento até à produção.

O ambiente de avaliação reflete as condições de produção e enfatiza a separação entre os pipelines de desenvolvimento e avaliação para evitar viés. Curas manualmente os conjuntos de dados iniciais e defines antecipadamente as ontologias e resultados esperados. Mais tarde, escalam estes conjuntos de dados usando geração sintética. Os conjuntos de dados focam-se em objetivos operacionais relevantes para a monitorização e tomada de decisões do negócio. Embora representem cenários do mundo real, ainda não incluem populações de utilizadores mais amplas ou configurações dinâmicas de objetivos. Esta abordagem mantém as avaliações focadas, reproduzíveis e alinhadas com os princípios de IA responsável.

Resultados da avaliação

Os nossos processos de avaliação utilizam uma metodologia estruturada de rastreio>itera>avalia. Incorporamos avaliações em cada etapa dos ciclos de tomada de decisão do agente. Estas avaliações confirmaram que o agente produz consistentemente ontologias precisas, gera consultas válidas e relevantes, e seleciona ações apropriadas alinhadas com os objetivos do utilizador. Estes resultados apoiam o alinhamento do sistema com os objetivos de responsabilização, particularmente para garantir que este funciona como esperado em contextos operacionais do mundo real.

Os conjuntos de dados de treino e teste utilizados na avaliação foram cuidadosamente selecionados para refletir uma ampla gama de cenários operacionais. Construíste manualmente conjuntos de dados iniciais a partir de casos de uso reais, com resultados esperados claramente definidos, incluindo ontologias e resultados de consulta. Mais tarde, expandiu estes conjuntos de dados usando geração sintética para aumentar a variabilidade e a cobertura. Desenhou os conjuntos de dados para representar os tipos de objetivos e ambientes de dados que o agente deve encontrar, incluindo variações na complexidade do esquema, disponibilidade de dados e intenção do utilizador. Esta abordagem garantiu que a avaliação captasse uma gama representativa de fatores e contextos operacionais, apoiando o desenvolvimento e implementação responsável do sistema.

Os resultados das avaliações influenciaram várias restrições chave de design no sistema. Por exemplo, introduzimos limites no tamanho máximo da consulta e na complexidade mínima da ontologia para garantir um desempenho consistente e reduzir as taxas de falha. Embora os resultados sejam amplamente aplicáveis a muitos cenários de monitorização operacional e apoio à decisão, a avaliação inicial não incluiu algumas áreas, como a reconfiguração dinâmica de objetivos e a colaboração multi-agente. Estas áreas representam oportunidades para testes e desenvolvimentos futuros.

Avaliar e integrar agentes de operações para o seu uso

O comportamento de um agente é moldado pelas instruções, objetivos, dados e ações que fornece. Prompts precisos e dados limpos e bem organizados, com nomes de colunas intuitivos, melhoram a precisão e reduzem erros.

Depois de configurar o agente, valide os modelos comportamentais e regras do agente ao rever as consultas KQL para garantir o alinhamento com os processos de negócio. Embora as condições baseadas em regras desencadeem o agente, as suas recomendações geradas pelo LLM podem conter imprecisões, por isso reveja sempre os resultados antes de agir.

Agentes altamente responsivos podem levar a notificações excessivas ou ao uso excessivo de ações automatizadas, podendo causar instabilidade do sistema. Para mitigar riscos, ajustar regras, realizar auditorias regulares, simular casos extremos e desenhar interfaces que promovam a transparência. Por exemplo, mostrar pontuações de confiança e explicações claras para recomendações.

Conteúdo relacionado

  • Last updated on