Observação
O acesso a essa página exige autorização. Você pode tentar entrar ou alterar diretórios.
O acesso a essa página exige autorização. Você pode tentar alterar os diretórios.
Verifique se os agentes de IA estão consistentemente alinhados com as instruções do usuário e os objetivos da tarefa. O sinal de Adesão de Tarefa identifica discrepâncias, como invocações de ferramentas desalinhadas, entrada ou saída de ferramenta inadequada em relação à intenção do usuário e inconsistências entre respostas e entrada do cliente. Essa funcionalidade capacita os desenvolvedores do sistema a atenuar proativamente ações desalinhadas bloqueando-as ou aumentando o problema de intervenção humana.
Cenários de usuário
Suporte ao cliente
Cenário: Um assistente de suporte ao cliente integrado a uma plataforma empresarial ajuda os usuários a verificar o uso de dados, solucionar problemas e gerenciar as configurações da conta. Para manter a automação precisa, o sistema incorpora o Task Adherence para validar os planos dos agentes antes de executar chamadas de ferramentas backend.
Usuário: Usuários finais, agentes de suporte e equipes de experiência do cliente.
Ação: Um usuário mensagens o chatbot: "Você pode verificar quantos dados eu usei este mês?" O assistente planeja invocar uma change_data_plan() ferramenta. A Adesão à Tarefa detecta um desalinhamento entre a intenção do usuário (solicitação de informações) e a ação proposta (alteração de assinatura). A invocação da ferramenta pode ser bloqueada e o sistema interrompe a execução ou solicita ao usuário revisão.
Recursos humanos
Cenário: Um assistente empresarial automatiza fluxos de trabalho rotineiros relacionados ao RH, como licença de reserva, envio de despesas e verificação de detalhes da política. A Adesão à Tarefa garante que as ações do agente permaneçam dentro do escopo esperado e não usem atalhos não intencionais.
Usuário: Funcionários, parceiros de negócios de RH e equipes de automação de fluxo de trabalho.
Ação: Um funcionário digita: "Eu quero saber quanto de licença anual eu ainda tenho." O agente planeja invocar apply_leave(). A Adesão à Tarefa identifica uma incompatibilidade de tarefas– o usuário pediu informações para não iniciar um processo. A execução é bloqueada; o agente reformula a mensagem ou solicita uma confirmação.
Ferramentas de Produtividade
Cenário: Um assistente de produtividade inserido em uma plataforma de email ajuda os profissionais a se conectarem a bancos de dados e a elaborar, revisar e enviar mensagens. A adesão à tarefa é usada para distinguir entre escrever um rascunho e executar um comando de envio, especialmente nos casos em que a intenção do usuário é ambígua.
Usuário: Profissionais de conhecimento, assistentes executivos e equipes de conformidade de TI.
Ação: O usuário solicita: "Escreva um email para o cliente sobre o prazo perdido". O agente gera uma mensagem e planeja invocar send_email(). A Adesão à Tarefa sinaliza o plano como potencialmente prematuro; não há nenhuma instrução explícita a ser enviada. Em vez disso, o sistema bloqueia a chamada de ferramenta pretendida e solicita a revisão do usuário.
Adesão à tarefa: uso de ferramenta alinhado e desalinhado
O sinal de API de Adesão à Tarefa ajuda desenvolvedores e proprietários de plataforma a entender quando a invocação da ferramenta de um agente corresponde ou se desvia da intenção do usuário.
Exemplos
| Classification | Descrição | Exemplo |
|---|---|---|
| alinhado | O agente recupera informações solicitadas sem tomar medidas não intencionais. |
Usuário: "Você pode me mostrar meus eventos de calendário recentes?" Ferramenta Planejada: get_calendar_events()✅ O agente recupera eventos conforme solicitado. Saída: { "taskRiskDetected": false } |
| Desalinhado | O agente tenta modificar as configurações do usuário quando apenas uma solicitação de informações foi feita. |
Usuário: "Você pode me mostrar meus eventos de calendário recentes?" Ferramenta Planejada: clear_calendar_events()❌ O agente se prepara para excluir dados. Saída: { "taskRiskDetected": true, "details": "Planned action deletes calendar events, but user only requested to view them."} |
| alinhado | O Agente inicia um fluxo de criação de documento após solicitações do usuário para gerar um novo documento. |
Usuário: "Crie um novo documento de proposta de projeto para o cliente." Ferramenta Planejada: create_document()✅ Corresponde à solicitação de tarefa do usuário. Saída: { "taskRiskDetected": false} |
| Desalinhado | O Agente compartilha o documento com colaboradores externos sem instrução do usuário. |
Usuário: "Crie um novo documento de proposta de projeto para o cliente." Ferramenta Planejada: share_document()❌ Não há instruções do usuário para compartilhar. Saída: { "taskRiskDetected": true, "details": "Agent attempts to share a document externally without user request or confirmation."} |
Limitações
Disponibilidade de idiomas
A adesão à tarefa foi testada em texto em inglês; no entanto, o recurso pode funcionar em muitos outros idiomas, embora a qualidade possa variar. Em todos os casos, recomendamos testar o caso de uso e o aplicativo para garantir que ele funcione para seus cenários.
Limitação de comprimento do texto
Atualmente, a API de adesão à tarefa tem limitações de comprimento de entrada. O comprimento máximo do texto é de 100.000 caracteres. Se o comprimento de entrada exceder essa limitação, você receberá um erro.
Disponibilidade da região e processamento de dados
Embora a Adesão à Tarefa possa ser habilitada em todas as regiões de Segurança de Conteúdo da IA do Azure, os dados podem ser roteados e processados em outras regiões dos EUA e da UE fora da Área Geográfica especificada.