Fluxo de prompt no Azure AI Studio
Nota
O Azure AI Studio está atualmente em pré-visualização pública. Essa visualização é fornecida sem um contrato de nível de serviço e não a recomendamos para cargas de trabalho de produção. Algumas funcionalidades poderão não ser suportadas ou poderão ter capacidades limitadas. Para obter mais informações, veja Termos Suplementares de Utilização para Pré-visualizações do Microsoft Azure.
Prompt flow é uma ferramenta de desenvolvimento projetada para agilizar todo o ciclo de desenvolvimento de aplicações de IA alimentadas por Large Language Models (LLMs). O Prompt flow fornece uma solução abrangente que simplifica o processo de prototipagem, experimentação, iteração e implantação de seus aplicativos de IA.
O fluxo de prompt está disponível independentemente como um projeto de código aberto no GitHub, com seu próprio SDK e extensão VS Code. O fluxo de prompt também está disponível e é recomendado para uso como um recurso no Azure AI Studio e no Azure Machine Learning Studio. Este conjunto de documentação concentra-se no fluxo de prompt no Azure AI Studio.
Definições:
- O fluxo de prompt é um recurso que pode ser usado para gerar, personalizar ou executar um fluxo.
- Um fluxo é um conjunto de instruções executáveis que pode implementar a lógica da IA. Os fluxos podem ser criados ou executados através de várias ferramentas, como uma tela pré-construída, LangChain, etc. As iterações de um fluxo podem ser salvas como ativos; uma vez implantado, um fluxo se torna uma API. Nem todos os fluxos são fluxos imediatos; em vez disso, o fluxo imediato é uma maneira de criar um fluxo.
- Um prompt é um pacote de entrada enviado para um modelo, consistindo na entrada do usuário, mensagem do sistema e quaisquer exemplos. A entrada do usuário é o texto enviado na janela de chat. A mensagem do sistema é um conjunto de instruções para o modelo, definindo o escopo de seus comportamentos e funcionalidades.
- Um fluxo de amostra é um fluxo de orquestração simples e pré-construído que mostra como os fluxos funcionam e pode ser personalizado.
- Um prompt de exemplo é um prompt definido para um cenário específico que pode ser copiado de uma biblioteca e usado como está ou modificado no design do prompt.
Benefícios do fluxo rápido
Com o fluxo de prompt no Azure AI Studio, você pode:
- Orquestre fluxos executáveis com LLMs, prompts e ferramentas Python por meio de um gráfico visualizado.
- Depure, compartilhe e itere seus fluxos com facilidade por meio da colaboração em equipe.
- Crie variantes de prompt e compare seu desempenho.
Agilidade de engenharia imediata
- Experiência de criação interativa: o fluxo de prompt fornece uma representação visual da estrutura do fluxo, permitindo que você compreenda e navegue facilmente pelos projetos.
- Variantes para ajuste de prompt: Você pode criar e comparar várias variantes de prompt, facilitando um processo de refinamento iterativo.
- Avaliação: Os fluxos de avaliação incorporados permitem-lhe avaliar a qualidade e a eficácia dos seus prompts e fluxos.
- Recursos abrangentes: o fluxo imediato inclui uma biblioteca de ferramentas, exemplos e modelos integrados que servem como ponto de partida para o desenvolvimento, inspirando a criatividade e acelerando o processo.
Preparação para empresas
- Colaboração: o fluxo imediato suporta a colaboração em equipe, permitindo que vários usuários trabalhem juntos em projetos de engenharia imediatos, compartilhem conhecimento e mantenham o controle de versão.
- Plataforma tudo-em-um: o fluxo imediato simplifica todo o processo de engenharia imediata, desde o desenvolvimento e avaliação até a implantação e monitoramento. Você pode implantar facilmente seus fluxos como pontos de extremidade de IA do Azure e monitorar seu desempenho em tempo real, garantindo uma operação ideal e melhoria contínua.
- Soluções de prontidão empresarial: o fluxo de prompt aplica soluções robustas de prontidão empresarial de IA do Azure, fornecendo uma base segura, escalável e confiável para o desenvolvimento, experimentação e implantação de fluxos.
Com o fluxo imediato no Azure AI Studio, você pode liberar agilidade de engenharia imediata, colaborar de forma eficaz e aplicar soluções de nível empresarial para o desenvolvimento e a implantação bem-sucedidos de aplicativos baseados em LLM.
Ciclo de vida do desenvolvimento do fluxo
O fluxo imediato oferece um processo bem definido que facilita o desenvolvimento contínuo de aplicações de IA. Ao usá-lo, você pode progredir efetivamente através dos estágios de desenvolvimento, teste, ajuste e implantação de fluxos, resultando na criação de aplicativos de IA completos.
O ciclo de vida consiste nas seguintes etapas:
- Inicialização: identifique o caso de uso comercial, colete dados de exemplo, aprenda a criar um prompt básico e desenvolva um fluxo que amplie seus recursos.
- Experimentação: execute o fluxo em relação aos dados de amostra, avalie o desempenho do prompt e itere no fluxo, se necessário. Experimente continuamente até ficar satisfeito com os resultados.
- Avaliação e refinamento: avalie o desempenho do fluxo executando-o em relação a um conjunto de dados maior, avalie a eficácia do prompt e refine conforme necessário. Prossiga para a próxima etapa se os resultados atenderem aos critérios desejados.
- Produção: otimize o fluxo para eficiência e eficácia, implante-o, monitore o desempenho em um ambiente de produção e colete dados de uso e feedback. Use essas informações para melhorar o fluxo e contribuir para estágios anteriores para iterações futuras.
Ao seguir essa abordagem estruturada e metódica, o fluxo imediato permite que você desenvolva, teste rigorosamente, ajuste e implante fluxos com confiança, resultando na criação de aplicativos de IA robustos e sofisticados.
Tipos de fluxo
No Azure AI Studio, você pode iniciar um novo fluxo selecionando um tipo de fluxo ou um modelo na galeria.
Aqui estão alguns exemplos de tipos de fluxo:
- Fluxo padrão: Projetado para o desenvolvimento geral de aplicativos, o fluxo padrão permite criar um fluxo usando uma ampla gama de ferramentas integradas para o desenvolvimento de aplicativos baseados em LLM. Ele fornece flexibilidade e versatilidade para o desenvolvimento de aplicativos em diferentes domínios.
- Fluxo de chat: Adaptado para o desenvolvimento de aplicativos de conversação, o fluxo de bate-papo se baseia nos recursos do fluxo padrão e fornece suporte aprimorado para entradas/saídas de bate-papo e gerenciamento de histórico de bate-papo. Com o modo de conversação nativo e recursos integrados, você pode desenvolver e depurar perfeitamente seus aplicativos dentro de um contexto conversacional.
- Fluxo de avaliação: Projetado para cenários de avaliação, o fluxo de avaliação permite criar um fluxo que toma as saídas de execuções de fluxo anteriores como entradas. Esse tipo de fluxo permite avaliar o desempenho de resultados de execuções anteriores e métricas relevantes de saída, facilitando a avaliação e o aperfeiçoamento de seus modelos ou aplicativos.
Fluxos
Um fluxo no fluxo de prompt serve como um fluxo de trabalho executável que simplifica o desenvolvimento de seu aplicativo de IA baseado em LLM. Ele fornece uma estrutura abrangente para gerenciar o fluxo de dados e o processamento em seu aplicativo.
Dentro de um fluxo, os nós ocupam o centro do palco, representando ferramentas específicas com recursos exclusivos. Esses nós lidam com processamento de dados, execução de tarefas e operações algorítmicas, com entradas e saídas. Ao conectar nós, você estabelece uma cadeia contínua de operações que orienta o fluxo de dados através do seu aplicativo.
Para facilitar a configuração e o ajuste fino do nó, uma representação visual da estrutura do fluxo de trabalho é fornecida por meio de um gráfico DAG (Directed Acyclic Graph). Este gráfico mostra a conectividade e as dependências entre nós, fornecendo uma visão geral clara de todo o fluxo de trabalho.
Com o recurso de fluxo no Prompt flow, você tem o poder de projetar, personalizar e otimizar a lógica do seu aplicativo de IA. A disposição coesa dos nós garante um processamento de dados eficiente e uma gestão de fluxo eficaz, capacitando-o para criar aplicações robustas e avançadas.
Ferramentas de fluxo rápido
As ferramentas são os blocos de construção fundamentais de um fluxo.
No Azure AI Studio, as opções de ferramenta incluem a ferramenta LLM, a ferramenta Prompt, a ferramenta Python e muito mais.
Cada ferramenta é uma unidade simples e executável com uma função específica. Ao combinar diferentes ferramentas, você pode criar um fluxo que atinge uma ampla gama de objetivos. Por exemplo, você pode usar a ferramenta LLM para gerar texto ou resumir um artigo e a ferramenta Python para processar o texto para informar o próximo componente de fluxo ou resultado.
Um dos principais benefícios das ferramentas de fluxo Prompt é sua integração perfeita com APIs de terceiros e pacotes de código aberto python. Isso não só melhora a funcionalidade de modelos de linguagem grandes, mas também torna o processo de desenvolvimento mais eficiente para os desenvolvedores.
Se as ferramentas de fluxo de prompt no Azure AI Studio não atenderem aos seus requisitos, você poderá seguir este guia para desenvolver sua própria ferramenta personalizada e torná-la um pacote de ferramentas. Para descobrir mais ferramentas personalizadas desenvolvidas pela comunidade de código aberto, visite esta página.