Verbindingen en runtimes verkennen
Wanneer u een LLM-toepassing (Large Language Model) met promptstroom maakt, moet u eerst de benodigde verbindingen en runtimes configureren.
Verbindingen verkennen
Wanneer u wilt dat uw stroom verbinding maakt met externe gegevensbron, service of API, moet uw stroom gemachtigd zijn om met die externe service te communiceren. Wanneer u een verbinding maakt, configureert u een beveiligde koppeling tussen promptstroom en externe services, waardoor naadloze en veilige gegevenscommunicatie mogelijk is.
Afhankelijk van het type verbinding dat u maakt, slaat de verbinding het eindpunt, de API-sleutel of de referenties op die nodig zijn voor communicatie met de externe service. Alle benodigde geheimen worden niet blootgesteld aan gebruikers, maar worden in plaats daarvan opgeslagen in een Azure Key Vault.
Door verbindingen in te stellen, kunnen gebruikers eenvoudig externe services hergebruiken die nodig zijn voor hulpprogramma's in hun stromen.
Voor bepaalde ingebouwde hulpprogramma's moet u een verbinding hebben geconfigureerd:
| Verbindingstype | Ingebouwde hulpprogramma's |
|---|---|
| Azure Open AI | LLM ofwel Python |
| OpenAI | LLM of Python |
| Cognitieve Zoekopdracht | Vector DB Opzoeken of Python |
| Serp | Serp-API of Python |
| Op maat gemaakt | Python |
Verbindingen van promptstromen spelen cruciale rollen in twee scenario's. Ze automatiseren API-referentiebeheer, vereenvoudigen en beveiligen van de verwerking van gevoelige toegangsinformatie. Daarnaast maken ze veilige gegevensoverdracht mogelijk vanuit verschillende bronnen, die cruciaal zijn voor het onderhouden van gegevensintegriteit en privacy in verschillende omgevingen.
Uitvoeringsomgevingen verkennen
Nadat u uw flow hebt gemaakt en de benodigde verbindingen hebt geconfigureerd die door uw hulpprogramma's worden gebruikt, wilt u uw flow uitvoeren. Om de workflow te draaien, hebt u rekenkracht nodig, die wordt aangeboden via prompt flow runtimes.
Runtimes (1) zijn een combinatie van een rekenproces (2) die de benodigde rekenresources levert en een omgeving (3) die de benodigde pakketten en bibliotheken opgeeft die moeten worden geïnstalleerd voordat de stroom kan worden uitgevoerd.
Wanneer u runtimes gebruikt, hebt u een gecontroleerde omgeving waarin stromen kunnen worden uitgevoerd en gevalideerd, zodat alles werkt zoals bedoeld in een stabiele instelling. Er is een standaardomgeving beschikbaar voor snelle ontwikkeling en testen. Wanneer u andere pakketten wilt installeren, kunt u een aangepaste omgeving maken.