Partilhar via


Nota de transparência e casos de uso para resposta a perguntas

Importante

Traduções que não sejam em inglês são fornecidas apenas por conveniência. Consulte a EN-US versão deste documento para obter a versão vinculativa.

O que é uma nota de transparência?

Um sistema de IA inclui não apenas a tecnologia, mas também as pessoas que a usarão, as pessoas que serão afetadas por ela e o ambiente em que ela é implantada. Criar um sistema adequado ao fim a que se destina requer uma compreensão de como a tecnologia funciona, suas capacidades e limitações, e como alcançar o melhor desempenho.

A Microsoft fornece notas de transparência para ajudá-lo a entender como nossa tecnologia de IA funciona. Isso inclui as escolhas que os proprietários do sistema podem fazer que influenciam o desempenho e o comportamento do sistema, e a importância de pensar em todo o sistema, incluindo a tecnologia, as pessoas e o meio ambiente. Pode utilizar as notas de transparência quando desenvolver ou implementar o seu próprio sistema ou partilhá-las com as pessoas que irão utilizar ou ser afetadas pelo seu sistema.

As notas de transparência fazem parte de um esforço mais amplo da Microsoft para colocar nossos princípios de IA em prática. Para saber mais, consulte os princípios de IA da Microsoft.

Introdução à resposta a perguntas

A resposta a perguntas é um serviço de processamento de linguagem natural baseado na nuvem que cria facilmente uma camada de conversação natural sobre os seus dados. Ele pode ser usado para encontrar a resposta mais apropriada para uma entrada de linguagem natural especificada, a partir de sua base de conhecimento personalizada de informações. Consulte a lista de idiomas suportados aqui.

A resposta a perguntas é comumente usada para criar aplicativos cliente de conversação, que incluem aplicativos de mídia social, bots de bate-papo e aplicativos de desktop habilitados para fala. Um aplicativo cliente baseado na resposta a perguntas pode ser qualquer aplicativo de conversação que se comunica com um usuário em linguagem natural para responder a uma pergunta.

A Resposta a Perguntas utiliza vários recursos do Azure, cada um para uma finalidade diferente: Pesquisa Cognitiva do Azure e Azure Monitor. Todos os dados do cliente (respostas a perguntas e chatlogs) são armazenados na região onde o cliente implanta as instâncias de serviço dependentes. Para mais detalhes sobre serviços dependentes, consulte aqui.

Noções básicas de resposta a perguntas

O primeiro passo para usar a resposta a perguntas é treinar e preparar o serviço QnA para reconhecer as perguntas e respostas que podem ser desenvolvidas a partir do seu conteúdo. A funcionalidade de resposta a perguntas importa o seu conteúdo para uma base de conhecimento composta por pares de perguntas e respostas. O processo de importação extrai informações sobre a relação entre as partes do seu conteúdo estruturado e semiestruturado para inferir relações entre os pares de perguntas e respostas.

Os pares QnA extraídos são exibidos da seguinte maneira:

Imagem de um exemplo de pergunta e resposta com metadados.

Você mesmo pode editar esses pares de perguntas e respostas e adicionar novos pares. Quando estiver satisfeito com o conteúdo da sua base de conhecimento, você poderá publicá-lo, o que o tornará pronto para ser usado para responder a perguntas enviadas aos aplicativos clientes. Na segunda etapa, seu aplicativo cliente envia a pergunta do usuário para a API do serviço de resposta a perguntas. O seu serviço de resposta a perguntas processa a pergunta e responde com a melhor resposta.

Imagem que mostra fazer uma pergunta a um bot e obter uma resposta do conteúdo da base de dados de conhecimento.

Para obter mais detalhes, consulte a documentação de resposta à pergunta.

Termos e definições

Vigência Definição
Base de dados de conhecimento Uma coleção de perguntas, respostas e metadados que foram extraídos de fontes de conteúdo ou adicionados manualmente. A coleção é então usada para desenvolver pares de perguntas e respostas. As consultas ao serviço QnA são comparadas com o conteúdo da base de dados de conhecimento.
Aprendizagem ativa Consome o feedback do uso do sistema para fornecer sugestões (na forma de novas perguntas) ao proprietário da base de conhecimento para melhorar o conteúdo de sua base de conhecimento. Saiba mais aqui.
Multivoltas Às vezes, informações adicionais são necessárias para responder a perguntas para determinar a melhor resposta para uma pergunta do usuário. O processo de resposta formula uma pergunta de acompanhamento ao utilizador.
Metadados Informações adicionais na forma de um nome e valor que você pode associar a cada par QnA em sua base de dados de conhecimento. Os metadados podem ser usados para passar contexto e filtrar resultados.
SINÔNIMOS Termos alternativos que podem ser usados indistintamente na base de conhecimento.

Exemplos de casos de uso

Você pode usar a resposta a perguntas em vários cenários e em uma variedade de setores. Normalmente, os casos de uso de recuperação de informações são mais adequados para responder a perguntas onde geralmente há uma ou apenas algumas respostas corretas para uma pergunta do usuário. Cenários ou tópicos que tenham uma grande variedade de pontos de vista, visões de mundo, visões geopolíticas, conteúdo controverso, etc. serão mais difíceis de responder corretamente. Os clientes devem estar cientes de que fornecer este tipo de conteúdo através da resposta a perguntas pode criar sentimentos e reações negativas e resultar em publicidade negativa. Se você fornecer esse tipo de conteúdo, considere adicionar atribuição de fonte para permitir que seus usuários avaliem as respostas por si mesmos.

Alguns cenários típicos em que a resposta a perguntas é recomendada são:

  • Apoio ao cliente: Na maioria dos cenários de suporte ao cliente, perguntas comuns são feitas com frequência. A Resposta a Perguntas permite que você crie instantaneamente um bot de bate-papo a partir do conteúdo de suporte existente, e esse bot pode atuar como o sistema de linha de frente para lidar com as consultas dos clientes. Se as perguntas não puderem ser respondidas pelo bot, componentes adicionais podem ajudar a identificar e sinalizar a pergunta para intervenção humana.

  • Bot de perguntas frequentes da empresa: A recuperação de informações é um desafio para os funcionários da empresa. Os bots de perguntas frequentes internas são uma ótima ferramenta para ajudar os funcionários a obter respostas para suas perguntas comuns. A resposta a perguntas permite que vários departamentos, como recursos humanos ou folha de pagamento, criem bots de bate-papo de perguntas frequentes para ajudar os funcionários.

  • Respostas instantâneas através da pesquisa: Muitos sistemas de pesquisa aumentam os seus resultados de pesquisa com respostas instantâneas, que fornecem ao utilizador acesso imediato a informações relevantes para a sua consulta. As respostas das perguntas podem ser combinadas com os resultados da pesquisa de documentos para oferecer uma experiência de resposta instantânea ao utilizador final.

Considerações ao escolher outros casos de uso

  • Evite cenários de alto risco: O algoritmo aprendido por máquina usado pela resposta a perguntas otimiza o desempenho com base nos dados em que é treinado, no entanto, sempre haverá casos de borda em que a resposta correta não é retornada para uma consulta do usuário que o sistema não entende bem. Ao projetar seus cenários com respostas a perguntas, esteja ciente da possibilidade de resultados falsos positivos. É aconselhável criar um conjunto de dados das principais consultas feitas no seu cenário e as respostas esperadas correspondentes, e testar periodicamente o serviço para a correção das respostas. Por exemplo:

    • Cuidados de saúde: Isso geralmente requer alta precisão, e informações erradas podem ter consequências fatais. Considere o exemplo de um bot do Doctor Assistant que usa a resposta a perguntas para entender os sintomas do paciente e combiná-los com doenças comuns. Da mesma forma, qualquer bot que seja projetado para conversar com pacientes com problemas de saúde mental, como depressão ou ansiedade, deve ter muito cuidado com as respostas retornadas. A resposta a perguntas pode ser útil na análise da terminologia clínica e na obtenção de pares úteis de perguntas e respostas, mas não foi concebida, não se destina ou é disponibilizada para criar dispositivos médicos, não foi concebida nem pretendida e não deve ser utilizada como um substituto para aconselhamento médico profissional, diagnóstico, tratamento ou julgamento. O Cliente é o único responsável por exibir e/ou obter consentimentos, avisos, isenções de responsabilidade e reconhecimentos apropriados aos usuários finais de sua implementação.
  • Evite cenários de domínio aberto: a resposta a perguntas destina-se a responder a perguntas de uma base de conhecimento de domínio específico, não a perguntas abertas ou fora do domínio. Usar perguntas fora do domínio com sistemas de perguntas e respostas implica o risco de retornar respostas incorretas. Por exemplo:

    • Bots sociais: Bots que são destinados a bate-papo genérico, não relacionados a um domínio específico, são difíceis de projetar com resposta a perguntas. Nesses cenários, as intenções e pontos de vista do usuário podem variar amplamente (por exemplo, esportes, moda, política e religião). A construção de uma base de conhecimento de resposta a perguntas é melhor usada para fatos e/ou descoberta de conteúdo. Usar a resposta a perguntas para diversos tópicos de visão de mundo pode ser um desafio, e recomendamos que os clientes considerem uma revisão ou curadoria mais cuidadosa desse conteúdo.

    • Tratamento de conversas inadequadas: É possível que os usuários iniciem conversas inadequadas com o bot, incluindo palavrões ou discurso de ódio. O designer do bot deve ter muito cuidado sobre como lidar com essas conversas e certificar-se de que essas intenções sejam detetadas com alta precisão e a resposta apropriada dada. É difícil construir uma base de conhecimento abrangente na resposta às perguntas contendo todas as variações possíveis de enunciados inadequados. Portanto, é melhor lidar com esses casos com um sistema baseado em regras, por exemplo, os enunciados do usuário podem ser rapidamente verificados quanto à presença de quaisquer palavras de uma lista de bloqueio pré-processada de palavras-chave inadequadas. Isso não faz parte do serviço de resposta a perguntas e precisaria ser desenvolvido em cima do serviço de resposta a perguntas.

  • Considerações legais e regulatórias: As organizações precisam avaliar possíveis obrigações legais e regulatórias específicas ao usar quaisquer serviços e soluções de IA, que podem não ser apropriados para uso em todos os setores ou cenários. Além disso, os serviços ou soluções de IA não são projetados e não podem ser usados de maneiras proibidas nos termos de serviço aplicáveis e nos códigos de conduta relevantes.

Próximos passos