Explorar conexões e tempos de execução
Ao criar um aplicativo LLM (Modelo de Linguagem Grande) com fluxo de prompt, primeiro você precisa configurar todas as conexões e runtimes necessários.
Explorar conexões
Sempre que quiser que seu fluxo se conecte à fonte de dados externa, ao serviço ou à API, você precisará que o fluxo seja autorizado a se comunicar com esse serviço externo. Ao criar uma conexão, você configura um link seguro entre o fluxo de prompt e os serviços externos, garantindo uma comunicação de dados perfeita e segura.
Dependendo do tipo de conexão criado, a conexão armazena com segurança o ponto de extremidade, a chave de API ou as credenciais necessárias para que o prompt flow se comunique com o serviço externo. Todos os segredos necessários não são expostos aos usuários, mas são armazenados em um Azure Key Vault.
Ao configurar conexões, os usuários podem reutilizar facilmente os serviços externos necessários para ferramentas em seus fluxos.
Determinadas ferramentas internas exigem que você tenha uma conexão configurada:
| Tipo de conexão | Ferramentas integradas |
|---|---|
| IA aberta do Azure | LLM ou Python |
| Open AI | LLM ou Python |
| Busca Cognitiva | Pesquisa de banco de dados vetorial ou Python |
| Serp | API serp ou Python |
| Personalizado | Python |
As conexões de prompt flow desempenham funções fundamentais em dois cenários. Eles automatizam o gerenciamento de credenciais de API, simplificando e protegendo o tratamento de informações confidenciais de acesso. Além disso, eles permitem a transferência segura de dados de várias fontes, cruciais para manter a integridade e a privacidade dos dados em diferentes ambientes.
Explorar runtimes
Depois de criar seu fluxo e configurar as conexões necessárias que suas ferramentas usam, você deseja executar seu fluxo. Para executar o fluxo, você precisa de computação, que é oferecida pelos runtimes de prompt flow.
Runtimes (1) são uma combinação de uma instância de computação (2) fornecendo os recursos de computação necessários e um ambiente (3) especificando os pacotes e bibliotecas necessários que precisam ser instalados antes de poder executar o fluxo.
Ao usar runtimes, você tem um ambiente controlado em que os fluxos podem ser executados e validados, garantindo que tudo funcione conforme o esperado em uma configuração estável. Um ambiente padrão está disponível para desenvolvimento e teste rápidos. Quando você exige que outros pacotes sejam instalados, você pode criar um ambiente personalizado.