Prompt flow no Estúdio de IA do Azure

Artigo
05/21/2024

Importante

Alguns dos recursos descritos nesse artigo podem estar disponíveis apenas na versão prévia. Essa versão prévia é fornecida sem um contrato de nível de serviço e não recomendamos isso para cargas de trabalho de produção. Alguns recursos podem não ter suporte ou podem ter restrição de recursos. Para obter mais informações, consulte Termos de Uso Complementares de Versões Prévias do Microsoft Azure.

O prompt flow é uma ferramenta de desenvolvimento projetada para simplificar todo o ciclo de desenvolvimento de aplicativos de IA alimentados por LLMs (Modelos de Linguagem Grandes). O prompt flow fornece uma solução abrangente que simplifica o processo de prototipagem, experimentação, iteração e implantação de seus aplicativos de IA.

O fluxo de prompt está disponível de forma independente como um projeto de software livre no GitHub, com seu próprio SDK e extensão do VS Code. O prompt flow também está disponível e é recomendável usá-lo como um recurso no Estúdio de IA do Azure e no Estúdio do Azure Machine Learning. Este conjunto de documentação foca o prompt flow no Estúdio de IA do Azure.

Definições:

Prompt flow é um recurso que pode ser utilizado para gerar, personalizar ou executar um fluxo.
Um fluxo é um conjunto de instruções executável que pode implementar a lógica IA. Os fluxos podem ser criados ou executados por meio de várias ferramentas, como uma tela predefinida, LangChain, etc. As iterações de um fluxo podem ser salvas como ativos; uma vez implantado, um fluxo se tornará uma API. Nem todos os fluxos são prompt flows; em vez disso, o prompt flow é uma maneira de criar um fluxo.
Um prompt é um pacote de entrada enviado a um modelo, que consiste na entrada do usuário, na mensagem do sistema e em quaisquer exemplos. A entrada do usuário é o texto enviado na janela do chat. A mensagem do sistema está definida como um conjunto de instruções para o modelo, com escopo em seus comportamentos e funcionalidades.
Um fluxo de amostra é um fluxo de orquestração simples e predefinido que mostra como os fluxos funcionam e podem ser personalizados.
Um prompt de exemplo é um prompt definido para um cenário específico que pode ser copiado de uma biblioteca e utilizado como está ou modificado no projeto do prompt.

Benefícios do prompt flow

Com o prompt flow no Estúdio de IA do Azure, você pode:

Orquestrar fluxos executáveis com LLMs, prompts e ferramentas do Python por meio de um grafo visualizado.
Depurar, compartilhar e iterar seus fluxos com facilidade por meio da colaboração em equipe.
Crie variantes de prompt e compare seu desempenho.

Agilidade da engenharia de prompt

Experiência de criação interativa: o prompt flow fornece uma representação visual da estrutura do fluxo, permitindo que você compreenda e navegue facilmente pelos projetos.
Variantes para ajuste do prompt: você pode criar e comparar várias variantes de prompt, facilitando um processo de refinamento iterativo.
Avaliação: os fluxos de avaliação internos permitem que você avalie a qualidade e a eficácia de seus prompts e fluxos.
Recursos abrangentes: o prompt flow inclui uma biblioteca de ferramentas internas, amostras e modelos que servem como ponto de partida para o desenvolvimento, solicitando criatividade e acelerando o processo.

Preparação corporativa

Colaboração: o prompt flow dá suporte para a colaboração em equipe, permitindo que vários usuários trabalhem juntos em projetos de engenharia de prompt, compartilhem conhecimento e mantenham o controle da versão.
Plataforma completa: o prompt flow simplifica todo o processo de engenharia de prompt, desde o desenvolvimento e a avaliação até a implantação e o monitoramento. É possível implantar sem esforço seus fluxos como pontos de extremidade de IA do Azure e monitorar seu desempenho em tempo real, garantindo a operação ideal e a melhoria contínua.
Soluções de Preparação para Empresas: o prompt flow aplica soluções robustas de preparação da empresarial para IA do Azure, fornecendo uma base segura, escalonável e confiável para o desenvolvimento, a experimentação e a implantação de fluxos.

Com o prompt flow no Estúdio de IA do Azure, você pode liberar a agilidade da engenharia de prompt, colaborar de forma eficaz e aplicar soluções de nível empresarial para o desenvolvimento e a implantação bem-sucedidos de aplicativos baseados em LLM.

Ciclo de vida do desenvolvimento do fluxo

O prompt flow oferece um processo bem definido que facilita o desenvolvimento contínuo de aplicativos de IA. Ao usá-lo, você pode progredir efetivamente através das fases de desenvolvimento, teste, ajuste e implantação de fluxos, resultando, por fim, na criação de aplicativos de IA completos.

O ciclo de vida consiste nos seguintes estágios:

Inicialização: identifique o caso de uso empresarial, colete dados de exemplo, aprenda a criar um prompt básico e desenvolva um fluxo que estenda seus recursos.
Experimentação: execute o fluxo em dados de exemplo, avalie o desempenho do prompt e itere no fluxo, se necessário. Experimente continuamente até ficar satisfeito com os resultados.
Avaliação e refinamento: avalie o desempenho do fluxo executando-o em relação a um conjunto de dados maior, avalie a eficácia do prompt e refine-o conforme necessário. Prossiga para a próxima fase se os resultados atenderem aos critérios desejados.
Produção: otimize o fluxo para eficiência e eficácia, implante-o, monitore o desempenho em um ambiente de produção e colete dados de uso e comentários. Use essas informações para melhorar o fluxo e contribuir com estágios anteriores para iterações adicionais.

Ao seguir essa abordagem estruturada e metódica, o prompt flow capacita você a desenvolver, testar rigorosamente, ajustar e implantar fluxos com confiança, resultando na criação de aplicativos de IA robustos e sofisticados.

Tipos de fluxo

No Estúdio de IA do Azure, você pode iniciar um novo fluxo selecionando um tipo de fluxo ou um modelo na galeria.

Aqui estão alguns exemplos de tipos de fluxo:

Fluxo padrão: projetado para o desenvolvimento de aplicativos em geral, o fluxo padrão permite criar um fluxo usando um amplo intervalo de ferramentas internas para o desenvolvimento de aplicativos baseados em LLM. Ele fornece flexibilidade e versatilidade para o desenvolvimento de aplicativos em diferentes domínios.
Fluxo Chat: adaptado para o desenvolvimento de aplicativos de conversação, o fluxo Chat cria as funcionalidades do fluxo padrão e fornece suporte aprimorado para entradas/saídas de chats e gerenciamento do histórico de chats. Com o modo de conversação nativo e os recursos internos, é possível desenvolver e depurar perfeitamente seus aplicativos em um contexto de conversação.
Fluxo de avaliação: projetado para criar cenários de avaliação, o fluxo de avaliação permite que você crie um fluxo que usa como entrada as saídas de execuções de fluxo anteriores. Esse tipo de fluxo lhe permite avaliar o desempenho dos resultados de execuções anteriores e a saída de métricas relevantes, facilitando a avaliação e o aprimoramento de seus modelos ou aplicativos.

Fluxos

Um fluxo no fluxo de prompt serve como um fluxo de trabalho executável que simplifica o desenvolvimento do aplicativo de IA baseado em LLM. Ele fornece uma estrutura abrangente para gerenciar o fluxo de dados e o processamento em seu aplicativo.

Dentro de um fluxo, os nós assumem o papel principal, representando ferramentas específicas com recursos exclusivos. Esses nós lidam com processamento de dados, execução de tarefas e operações algorítmicas, com entradas e saídas. Ao conectar nós, você estabelece uma cadeia contínua de operações que orienta o fluxo de dados por meio de seu aplicativo.

Para facilitar a configuração e o ajuste fino dos nós, uma representação visual da estrutura do fluxo de trabalho é fornecida através de um Grafo Direcionado Acíclico (DAG). Este grafo mostra a conectividade e as dependências entre nós, fornecendo uma visão geral clara de todo o fluxo de trabalho.

Com o recurso de fluxo no fluxo de prompt, você tem a capacidade de projetar, personalizar e otimizar a lógica do aplicativo de IA. A disposição coesa dos nós garante o processamento eficiente de dados e o gerenciamento eficaz de fluxos, capacitando você a criar aplicativos robustos e avançados.

Ferramentas do prompt flow

As ferramentas são os blocos fundamentais de criação de um fluxo.

No Estúdio de IA do Azure, as opções de ferramentas incluem a ferramenta LLM, a ferramenta Prompt, a ferramenta Python e outras.

Cada ferramenta é uma unidade simples e executável com uma função específica. Ao combinar diferentes ferramentas, você pode criar um fluxo que atinja um amplo intervalo de metas. Por exemplo, você pode usar a ferramenta LLM para gerar texto ou resumir um artigo e a ferramenta Python para processar o texto e informar o próximo resultado ou componente do fluxo.

Um dos principais benefícios das ferramentas de fluxo de prompt é sua integração perfeita com APIs de terceiros e pacotes de código aberto Python. Isso não apenas melhora a funcionalidade de grandes modelos de linguagem, mas também torna o processo de desenvolvimento mais eficiente para os desenvolvedores.

Se as ferramentas de prompt flow do Estúdio de IA do Azure não atenderem aos seus requisitos, você poderá seguir este guia para desenvolver sua própria ferramenta personalizada e transformá-la em um pacote de ferramentas. Para descobrir mais ferramentas personalizadas desenvolvidas pela comunidade de código aberto, visite esta página.

Compartilhar via