Partilhar via

Deteção de aterramento

  • Artigo

A API de deteção de aterramento deteta se as respostas de texto de grandes modelos de linguagem (LLMs) estão fundamentadas nos materiais de origem fornecidos pelos usuários. Ungroundedness refere-se a casos em que os LLMs produzem informações que não são factuais ou imprecisas a partir do que estava presente nos materiais de origem.

Termos principais

  • Retrieval Augmented Generation (RAG): RAG é uma técnica para aumentar o conhecimento de LLM com outros dados. Os LLMs podem raciocinar sobre tópicos abrangentes, mas seu conhecimento é limitado aos dados públicos que estavam disponíveis no momento em que foram treinados. Se você quiser criar aplicativos de IA que possam raciocinar sobre dados privados ou dados introduzidos após a data de corte de um modelo, você precisa fornecer ao modelo essas informações específicas. O processo de trazer as informações apropriadas e inseri-las no prompt do modelo é conhecido como Geração Aumentada de Recuperação (RAG). Para obter mais informações, consulte Geração aumentada de recuperação (RAG).
  • Fundamentação e falta de fundamento em LLMs: refere-se à medida em que os resultados do modelo são baseados em informações fornecidas ou refletem fontes confiáveis com precisão. Uma resposta fundamentada segue de perto a informação dada, evitando especulações ou invenções. Nas medições de aterramento, a informação da fonte é crucial e serve como fonte de aterramento.

Opções de deteção de aterramento

As seguintes opções estão disponíveis para deteção de aterramento no Azure AI Content Safety:

  • Seleção de domínio: os usuários podem escolher um domínio estabelecido para garantir uma deteção mais personalizada que esteja alinhada com as necessidades específicas de seu campo. Os domínios atualmente disponíveis são MEDICAL e GENERIC.
  • Especificação da tarefa: Este recurso permite que você selecione a tarefa que você está fazendo, como QnA (pergunta e resposta) e Resumo, com configurações ajustáveis de acordo com o tipo de tarefa.
  • Velocidade vs Interpretabilidade: Existem dois modos que trocam velocidade por interpretabilidade de resultados.
    • Modo sem raciocínio: Oferece capacidade de deteção rápida; fácil de incorporar em aplicações online.
    • Modo de raciocínio: Oferece explicações detalhadas para segmentos não fundamentados detetados; melhor para a compreensão e mitigação.

Casos de utilização

A deteção de fundamentação suporta tarefas de Sumarização e QnA baseadas em texto para garantir que os resumos ou respostas gerados sejam precisos e confiáveis. Aqui estão alguns exemplos de cada caso de uso:

Tarefas de sumarização:

  • Resumo médico: No contexto de artigos de notícias médicas, a deteção de fundamentação pode ser usada para garantir que o resumo não contenha informações fabricadas ou enganosas, garantindo que os leitores obtenham informações médicas precisas e confiáveis.
  • Resumo de artigos acadêmicos: Quando o modelo gera resumos de artigos acadêmicos ou artigos de pesquisa, a função pode ajudar a garantir que o conteúdo resumido represente com precisão as principais descobertas e contribuições, sem introduzir alegações falsas.

Tarefas de QnA:

  • Chatbots de suporte ao cliente: No suporte ao cliente, a função pode ser usada para validar as respostas fornecidas pelos chatbots de IA, garantindo que os clientes recebam informações precisas e confiáveis quando fizerem perguntas sobre produtos ou serviços.
  • QnA Médica: Para QnA médica, a função ajuda a verificar a precisão das respostas médicas e conselhos fornecidos pelos sistemas de IA aos profissionais de saúde e pacientes, reduzindo o risco de erros médicos.
  • QnA educacional: Em ambientes educacionais, a função pode ser aplicada a tarefas de QnA para confirmar que as respostas a perguntas acadêmicas ou consultas de preparação para testes são factualmente precisas, apoiando o processo de aprendizagem.

Correção da fundamentação

A API de deteção de aterramento inclui um recurso de correção que corrige automaticamente qualquer falta de fundamento detetada no texto com base nas fontes de aterramento fornecidas. Quando o recurso de correção está ativado, a resposta inclui um corrected Text campo que apresenta o texto corrigido alinhado com as fontes de aterramento.

Casos de utilização

Abaixo, veja vários cenários comuns que ilustram como e quando aplicar esses recursos para obter os melhores resultados.

Sumarização em contextos médicos

Você está resumindo documentos médicos, e é fundamental que os nomes dos pacientes nos resumos sejam precisos e consistentes com as fontes de fundamentação fornecidas.

Exemplo de solicitação de API:

{
  "domain": "Medical",
  "task": "Summarization",
  "text": "The patient name is Kevin.",
  "groundingSources": [
    "The patient name is Jane."
  ],
}

Resultados esperados:

O recurso de correção deteta que Kevin não está fundamentado porque está em conflito com a fonte Janede aterramento. A API retorna o texto corrigido: "The patient name is Jane."

Tarefa de perguntas e respostas (QnA) com dados de suporte ao cliente

Você está implementando um sistema QnA para um chatbot de suporte ao cliente. É essencial que as respostas fornecidas pela IA estejam alinhadas com as informações mais recentes e precisas disponíveis.

Exemplo de solicitação de API:

{
  "domain": "Generic",
  "task": "QnA",
  "qna": {
    "query": "What is the current interest rate?"
  },
  "text": "The interest rate is 5%.",
  "groundingSources": [
    "As of July 2024, the interest rate is 4.5%."
  ],
}

Resultados esperados:

A API deteta que 5% não está ligada à terra porque não corresponde à fonte 4.5%de aterramento fornecida. A resposta inclui o texto de correção: "The interest rate is 4.5%."

Criação de conteúdo com dados históricos

Você está criando conteúdo que envolve dados ou eventos históricos, onde a precisão é fundamental para manter a credibilidade e evitar desinformação.

Exemplo de solicitação de API:

{
  "domain": "Generic",
  "task": "Summarization",
  "text": "The Battle of Hastings occurred in 1065.",
  "groundingSources": [
    "The Battle of Hastings occurred in 1066."
  ],
}

Resultados esperados:

A API deteta a data 1065 não fundamentada e corrige-a com 1066 base na fonte de aterramento. A resposta inclui o texto corrigido: "The Battle of Hastings occurred in 1066."

Resumo da documentação interna

Você está resumindo documentos internos onde nomes de produtos, números de versão ou outros pontos de dados específicos devem permanecer consistentes.

Exemplo de solicitação de API:

{
  "domain": "Generic",
  "task": "Summarization",
  "text": "Our latest product is SuperWidget v2.1.",
  "groundingSources": [
    "Our latest product is SuperWidget v2.2."
  ],
}

Resultados esperados:

O recurso de correção identifica SuperWidget v2.1 como não fundamentado e atualiza-o na SuperWidget v2.2 resposta. A resposta devolve o texto corrigido: "Our latest product is SuperWidget v2.2."

Melhores práticas

Siga as seguintes práticas recomendadas ao configurar sistemas RAG para obter o melhor desempenho da API de deteção de aterramento:

  • Ao lidar com nomes de produtos ou números de versão, use fontes de aterramento diretamente de notas de versão internas ou documentação oficial do produto para garantir a precisão.
  • Para conteúdo histórico, cruze suas fontes de aterramento com bancos de dados acadêmicos ou históricos confiáveis para garantir o mais alto nível de precisão.
  • Em um ambiente dinâmico como o financeiro, use sempre as fontes de aterramento mais recentes e confiáveis para garantir que seu sistema de IA forneça informações precisas e oportunas.
  • Certifique-se sempre de que suas fontes de aterramento sejam precisas e atualizadas, especialmente em áreas sensíveis como a saúde. Isso minimiza o risco de erros no processo de sumarização.

Limitações

Disponibilidade do idioma

Atualmente, a API de deteção de aterramento suporta conteúdo em inglês. Embora nossa API não restrinja o envio de conteúdo que não seja em inglês, não podemos garantir o mesmo nível de qualidade e precisão na análise de conteúdo em outros idiomas. Recomendamos que os usuários enviem conteúdo principalmente em inglês para garantir os resultados mais confiáveis e precisos da API.

Limitações de comprimento do texto

Consulte Requisitos de entrada para limitações de comprimento máximo de texto.

Disponibilidade da região

Para usar essa API, você deve criar seu recurso de Segurança de Conteúdo do Azure AI nas regiões com suporte. Consulte Disponibilidade da região.

Limitações da taxa

Consulte Taxas de consulta.

Se você precisar de uma tarifa mais alta, entre em contato conosco para solicitá-la.

Próximos passos

Siga o início rápido para começar a usar o Azure AI Content Safety para detetar aterramento.

Guia de início rápido de deteção de aterramento