FAQ sobre a geração de texto

Estas perguntas mais frequentes (FAQ) descrevem o impacto da IA sobre a funcionalidade Copilot do AI Builder.

O que é a geração de texto?

A capacidade de geração de texto no AI Builder oferece aos utilizadores um conjunto de ferramentas versátil para o desenvolvimento de aplicações e fluxos de trabalho com tecnologia de IA. Permite a criação de fluxos de trabalho e aplicações que resumem documentos, criam rascunhos de respostas, classificam texto e traduzem idiomas. Esta capacidade tem a tecnologia Azure OpenAI Service, que utiliza a tecnologia GPT (Transformador Pré-preparado Generativo). Estes modelos foram treinados em grandes volumes de dados de texto, o que lhes permite gerar texto semelhante a conteúdo escrito por humanos. Para saber mais sobre o Azure OpenAI Service, consulte a Nota de Transparência para o Azure OpenAI Service.

Quais são as capacidades da geração de texto?

O modelo de geração de texto no AI Builder permite aos utilizadores criar aplicações e fluxos de trabalho inteligentes. A funcionalidade tira partido das capacidades de modelos pré-treinados ao eliminar a necessidade de treinar modelos cliente. Por exemplo, se a intenção for criar um fluxo de trabalho que resuma as reclamações enviadas pelos clientes e criar um pedido de suporte numa ferramenta de gestão de incidentes, com base na categoria da queixa recebida, e depois os criadores podem simplesmente indicar ao modelo para categorizar e resumir a queixa recebida para criar um novo incidente.

Qual é a utilização pretendida da geração de texto?

O modelo de geração de texto no AI Builder permite criar aplicações e fluxos de trabalho inteligentes. A funcionalidade tira partido das capacidades dos modelos pré-treinados, o que elimina a necessidade de treinar modelos cliente. Por exemplo, a intenção pode ser a criação de um fluxo de trabalho que resuma as queixas dos clientes recebidos e criar um pedido de suporte numa ferramenta de gestão de incidentes, com base na categoria da queixa recebida. Neste exemplo, os criadores podem simplesmente indicar ao modelo para categorizar e resumir a queixa recebida para criar um novo incidente.

Lista de casos de utilização mais populares deste serviço:

Lista de casos de utilização mais populares deste serviço:

• Resumo dos e-mails, conversações, transcrições, documentos, etc.
• Sugestões de rascunhos de respostas a consultas, reclamações e e-mails de de clientes, etc.
• Extração de informações de contratos, e-mails, faturas, encomendas, etc.
• Classificação do conteúdo nas categorias pretendidas, por exemplo, se um e-mail é uma encomenda, uma queixa ou uma devolução.
• Análise de sentimentos de um determinado texto, por exemplo, identificar o sentimento de uma revisão de produto.

Em todos estes casos, os utilizadores são responsáveis pelo resultado final do sistema e são obrigados a rever o conteúdo gerado para procurar quaisquer potenciais imprecisões ou carácter incompleto antes de o utilizar.

Como é que a geração de texto foi avaliada? Que métricas são usadas para medir o desempenho?

A avaliação da funcionalidade de geração de texto envolve testes completos em vários parâmetros de segurança. Isto assegura que a funcionalidade está alinhada com os padrões e princípios de IA responsáveis da nossa organização. O serviço também é continuamente avaliado em caso de potenciais vulnerabilidades. As métricas de desempenho que utilizamos envolvem principalmente a eficácia da filtragem de conteúdos e o grau de acordo entre o humano e a máquina em conteúdos filtrados versus não filtrados.

Quais são as limitações da geração de texto? Como é que os utilizadores podem minimizar o impacto das limitações da geração de texto quando utilizam o sistema?

A utilização desta tecnologia tem de estar em conformidade com os requisitos no Código de conduta para o Azure OpenAI Service. Esta tecnologia não pode ser utilizada para gerar conteúdo associado a propaganda política, discurso de ódio, desinformação, automutilação, discriminação, material sexual explícito ou outros conteúdos proibidos pelo Código de Conduta. As aplicações não suportadas desta tecnologia incluem fornecer aconselhamento, utilizar para orientação legal, financeira, relacionada com saúde ou previsões futuras, bem como cálculos financeiros, científicos ou matemáticos e qualquer outra utilização não suportada mencionada na Nota de Transparência para o Azure OpenAI Service. Atualmente, o serviço é suportado exclusivamente nos Estados Unidos e só está disponível em inglês.

Os conteúdos gerados por IA podem ter erros, pelo que os Criadores devem informar os utilizadores finais sobre a respetiva solução de que a geração de conteúdos por este modelo é criada por IA de uma forma transparente. A comunicação clara de conteúdo gerado por IA ajuda a evitar a o excesso de confiança. O Criador também deverá incluir a possibilidade de um passo de revisão humano para assegurar que o conteúdo gerado por IA é exato e adequado antes de o utilizar.

Que fatores operacionais e definições permitem o uso efetivo e responsável do sistema?

O conteúdo gerado pelo modelo de IA é probabilístico por natureza, pelo que as respostas ao modelo podem variar para as mesmas instruções. A resposta gerada pode estar incorreta ou ser enganadora e poderá causar resultados indevidamente gerados pelo fluxo ou aplicação. Por exemplo, os clientes empresariais poderão receber informações erradas ou incorretas, recomendações ou suporte. Os criadores devem implementar uma vigilância humana significativa nas respetivas aplicações e fluxos, bem como testar as respetivas instruções em relação ao potencial de gerar comportamentos prejudiciais ou conteúdo proibido, conforme listado no Código de Conduta da Microsoft. Os programadores low-code também deverão ser transparentes em relação à utilização da IA nas suas aplicações e fluxos para informar o utilizador de empresa, indicando que o conteúdo é gerado por IA. Além disso, as respostas geradas podem não corresponder às expectativas do programador de low-code devido a restrições de comprimento, filtragem de conteúdos ou seleção de modelos.

Consulte também

Descrição geral do modelo de geração de texto (pré-visualização)