Compartilhar via


Analisar perguntas do usuário por tema (versão prévia)

[Este artigo faz parte da documentação de pré-lançamento e está sujeito a alterações.]

Os temas são agrupamentos de perguntas retiradas do conjunto de perguntas do usuário que acionam respostas geradoras. Temas agrupam perguntas de usuários relacionadas em grupos inteligentemente organizados, porém em menor número e mais gerenciáveis. Com temas, você pode obter insights de nível de categoria sobre a intenção do cliente, identificar tópicos frequentes e concentrar esforços em áreas que precisam de melhoria. Em seguida, você pode analisar as perguntas individuais de um tema e monitorar o desempenho nesse nível mais granular para entender melhor as métricas no nível do tema.

Importante

Este artigo contém a documentação de versão prévia do Microsoft Copilot Studio e está sujeito a alterações.

Os recursos de visualização não são destinados ao uso de produção e podem ter funcionalidade restrita. Esses recursos estão disponíveis antes de um lançamento oficial para que você possa obter acesso antecipado e fornecer comentários.

Se você estiver criando um agente pronto para produção, confira a visão geral do Microsoft Copilot Studio.

Proposta de valor principal

O recurso Temas analisa automaticamente todas as perguntas não classificadas que dispararam respostas de IA generativas na última semana e sugere temas com base nessa análise. Esse processo é executado semanalmente. Entre execuções semanais de sugestão de tema , o recurso executa a classificação diária de quaisquer novas perguntas que disparem respostas de IA generativas, adicionando esses dados às métricas do tema. A lista temas sugeridos é atualizada regularmente para que seus temas permaneçam relevantes e reflitam os dados mais recentes do usuário. Essa atualização automática economiza tempo:

  • Avaliando continuamente a relevância do tema em relação a novos dados
  • Classificar automaticamente perguntas individuais em temas
  • Automatizando a recuperação de dados de métrica brutos para cada tema
  • Calculando dados de métrica agregados para cada tema

Pré-requisitos

Para otimizar o valor do recurso Temas, incluindo a capacidade de detalhar as perguntas e respostas dos componentes de cada tema:

  • Para exibir a lista e suas métricas, é necessário ter a função de segurança de um Visualizador de Transcrição de Bot. Somente os administradores podem conceder essa função atribuindo o papel de segurança Bot Transcript Viewer durante o compartilhamento de agente.

  • As configurações de nível de ambiente para armazenar transcrições de conversa no Dataverse estão ativadas.

Temas sugeridos e perguntas classificadas

O Copilot Studio sugere temas baseados em registros de perguntas feitas no passado recente. Ao personalizar cada tema sugerido para se adequar à estrutura da sua organização e à estratégia de experiência do cliente, você pode obter uma visão melhor por meio de KPIs (indicadores chave de desempenho) específicos do tema. Essa granularidade mais profunda torna mais fácil encontrar onde os agentes têm baixo desempenho.

Os temas ajudam os criadores a entender quais perguntas os usuários estão fazendo ao agente e como o agente é executado. Na execução inicial da análise baseada em tema, o Copilot Studio analisa todas as perguntas da semana passada e sugere até 10 temas que agrupam perguntas do usuário com base em semelhanças entre si. Cada tema inclui métricas como o número total de perguntas, taxa de resposta e reação do usuário. Os dados exibidos na lista Temas são ajustados com base no período de análise selecionado.

Após a execução inicial, o Copilot Studio classifica novas perguntas para temas existentes diariamente e gera uma nova lista de temas sugeridos semanalmente.

Observação

  • Deve haver pelo menos 50 perguntas com respostas generativas registradas nos últimos sete dias antes que o Copilot Studio gere temas sugeridos.
  • É possível que uma pergunta que desencadeie uma resposta generativa de IA seja classificada em mais de um tema. Esse cenário pode se tornar mais comum no modo Generative Orchestration , em que uma resposta do agente pode vir de várias fontes diferentes.
  • Todas as perguntas que permanecem não classificadas são colocadas em um tema não classificado .
  • A execução das sugestões semanais pode demorar alguns minutos para ser concluída. Durante esse tempo, a seção Temas não está disponível para uso.

A lista de temas

Por padrão, a lista Temas exibe os cinco (5) principais temas, classificados pelo número total de perguntas classificadas para cada tema. Selecione Ver tudo para expandir a lista para exibir todos os temas.

Com execuções automáticas de sugestão de tema semanal e classificação diária de perguntas, o recurso Temas evolui automaticamente e se adapta às alterações no comportamento do usuário.

Captura de tela da lista Temas na guia Análise.

A lista Temas exibe métricas para cada tema listado.

Coluna Description
Nome Nome do tema.
Total de perguntas Número total de perguntas classificadas neste tema para o período de tempo configurado.
Perguntas respondidas Proporção de perguntas totais que resultaram em uma resposta à pergunta do usuário.
Reações Contagem bruta de reações positivas (curtidas) e negativas (não curtidas) das perguntas classificadas para cada tema.

Observação

Por que há "Perguntas sem resposta" no meu tema quando todas as perguntas classificadas dispararam respostas de IA generativas?

Por definição, somente as perguntas que dispararam uma resposta de IA generativa podem ser classificadas em um tema. Mas disparar uma chamada para respostas gerativas não é o mesmo que ter uma resposta para uma consulta de usuário.

Por exemplo, é comum haver um tópico para impulsionar a conversa ligado a uma fonte de conhecimento. Nesse caso, se uma intenção não for reconhecida, este tópico pode ser ativado, o que chama a fonte de conhecimento, mesmo que não haja resposta para a pergunta nessa origem de conhecimento.

Aprofundar em um tema

Para detalhar as perguntas agrupadas em qualquer tema, selecione o tema na lista Temas . Quando você faz drill down, um painel específico ao tema selecionado é aberto, exibindo métricas nos níveis do tema e das perguntas individuais.

Observação

A lista de temas inclui:

  • Até as 100 perguntas mais recentes classificadas em cada tema.
  • Perguntas dos últimos 30 dias, independentemente do período de tempo configurado. Se o período configurado estiver totalmente fora dos últimos 30 dias, o Copilot Studio exibirá uma notificação de que a lista não está disponível.

Captura de tela de um painel de detalhamento de tema.

No painel de detalhamento de um tema, as métricas no nível do tema são exibidas primeiro.

Métrica de nível de tema Description
Total de perguntas Número total de perguntas (classificadas neste tema) que dispararam respostas de IA generativas para o período de tempo configurado.
Perguntas respondidas Proporção das perguntas totais deste tema que resultaram em uma resposta à pergunta do usuário.
Perguntas sem resposta Proporção das perguntas totais deste tema que não resultaram em uma resposta à pergunta do usuário.
Reações Contagem bruta de reações positivas (polegares para cima) e negativas (polegares para baixo) das perguntas classificadas para esse tema, conforme registrado no mecanismo Comentários do Learn.

Para exibir um detalhamento da qualidade da resposta para uma amostra de perguntas respondidas e todas as fontes de conhecimento referenciadas neste tema, selecione Mostrar mais.

Captura de tela do gráfico de barras empilhadas mostrando ponderações relativas da qualidade da resposta de perguntas com amostra para um tema.

No painel Métricas do tema , para ver mais informações sobre qualquer valor de qualidade de resposta no nível do tema, em Qualidade da resposta, passe o mouse sobre um segmento de barra individual. A dica de ferramenta inclui o valor da ponderação relativa desse segmento e o número de perguntas amostradas para chegar a esse valor.

Captura de tela das ponderações relativas da qualidade da resposta para um determinado tema, mostrando a dica de ferramenta para um valor de qualidade.

Para ver mais informações no nível de qualquer uma das fontes de conhecimento listadas, em Uso da fonte de conhecimento, selecione uma fonte de conhecimento individual. A dica de ferramenta inclui:

  • O número total de perguntas neste tema que fizeram referência a esta fonte de conhecimento, bem como o número de reações de polegar para cima e polegar para baixo .
  • Um gráfico de barras empilhadas mostrando o detalhamento das ponderações relativas da qualidade da resposta para perguntas que fazem referência a essa fonte de conhecimento no tema. Passe o mouse sobre qualquer segmento do gráfico de barras para ver o valor da ponderação relativa desse segmento e o número de perguntas amostradas para chegar a esse valor.

Captura de tela das ponderações relativas da qualidade da resposta para uma determinada fonte de conhecimento dentro de um tema, mostrando a dica de ferramenta para um valor de qualidade.

No painel de detalhamento de um tema individual, a seção Perguntas do usuário lista todas as perguntas que acionaram respostas generativas de IA no período de tempo configurado e foram classificadas nesse tema, além de exibir métricas por pergunta . As métricas de nível de pergunta incluem:

Dimensão ou métrica a nível de questão Description
Pergunta (dimensão) Pergunta (que disparou uma resposta de IA generativa) classificada para este tema.
Respondeu? Resposta à pergunta sobre se a consulta de usuário foi respondida ou não. Os valores possíveis são: Answered e Unanswered.
Qualidade da resposta1 Resposta à pergunta de qual era a qualidade da resposta à consulta do usuário. Os valores possíveis são: Poor e Good.
Reação Dois parâmetros, sendo a métrica Boolean Thumbs up/Thumbs down e um parâmetro Comment baseado em texto.
Fonte de conhecimento Lista separada por vírgulas de fontes de conhecimento referenciadas por esta pergunta neste tema.

1 A qualidade da resposta nem sempre está disponível e aparece somente se a pergunta foi amostrada para análise de qualidade.

Selecione qualquer pergunta na lista para exibir mais informações sobre a pergunta em um painel de detalhes da pergunta . Este painel inclui:

Parâmetro detalhado no nível da pergunta Description
Carimbo de data/hora Carimbo de data/hora da última vez em que a pergunta foi respondida.
Consulta de usuário A pergunta feita.
Resposta A resposta de IA generativa.
Valor de avaliação Positiva/Negativa Valor da instância mais recente desta pergunta para o parâmetro de Curtidas/Não curtidas.
Comment Comentário extra opcional baseado em texto, fornecido pelo usuário, além da reação de polegar para cima / polegar para baixo .
Qualidade da resposta1 Resposta à pergunta de qual era a qualidade da resposta à consulta do usuário. Os valores possíveis são: Poor e Good.
Motivo2 No caso em que a qualidade da resposta está Poor, esse parâmetro explica o motivo.

1 A qualidade da resposta nem sempre está disponível e aparece somente se a pergunta foi amostrada para análise de qualidade.

2 Se a qualidade da resposta for Good ou se a pergunta não tiver sido amostrada, o parâmetro Reason não será atribuído a nenhum valor.

Captura de tela dos detalhes das métricas no nível da pergunta em um tema.