Rekensessies voor promptstromen maken en beheren in Azure AI Studio

Belangrijk

Items die in dit artikel zijn gemarkeerd (preview) zijn momenteel beschikbaar als openbare preview. Deze preview wordt aangeboden zonder een service level agreement en we raden deze niet aan voor productieworkloads. Misschien worden bepaalde functies niet ondersteund of zijn de mogelijkheden ervan beperkt. Zie Aanvullende gebruiksvoorwaarden voor Microsoft Azure-previews voor meer informatie.

U hebt een rekensessie nodig om promptstromen uit te voeren. Gebruik Azure AI Studio om rekensessies voor promptstromen te maken en te beheren.

Een rekensessie voor een promptstroom bevat rekenresources die nodig zijn om de toepassing uit te voeren, inclusief een Docker-installatiekopieën die alle benodigde afhankelijkheidspakketten bevat. Naast stroomuitvoering gebruikt Azure AI Studio de rekensessie om ervoor te zorgen dat de nauwkeurigheid en functionaliteit van de hulpprogramma's die zijn opgenomen in de stroom wanneer u updates uitvoert voor de prompt- of code-inhoud.

Vereisten

Meld u aan bij Azure AI Studio en selecteer uw promptstroom.

Een rekensessie maken

Wanneer u een rekensessie start, kunt u de standaardinstellingen gebruiken of de geavanceerde instellingen aanpassen.

Een rekensessie starten met standaardinstellingen

De rekensessie maakt standaard gebruik van de omgeving die is gedefinieerd in flow.dag.yaml de stroommap. Deze wordt uitgevoerd op een serverloze berekening met een vm-grootte (virtuele machine) waarvoor u voldoende quotum in uw werkruimte hebt.

1. Ga naar uw project in Azure AI Studio.
2. Selecteer stromen in het linkerdeelvenster en selecteer vervolgens de stroom die u wilt uitvoeren.
3. Selecteer de rekensessie starten in de bovenste werkbalk van de promptstroom.

Een rekensessie starten met geavanceerde instellingen

In de geavanceerde instellingen kunt u het rekentype selecteren. U kunt kiezen tussen een serverloze reken- en rekeninstantie.

1. Ga naar uw project in Azure AI Studio.

2. Selecteer stromen in het linkerdeelvenster en selecteer vervolgens de stroom die u wilt uitvoeren.

3. Selecteer in de bovenste werkbalk van de promptstroom de vervolgkeuzepijl aan de rechterkant van de knop Rekensessie starten . Selecteer Beginnen met geavanceerde instellingen om de rekensessie aan te passen.

   

   U kunt kiezen tussen een serverloze reken- en rekeninstantie.

   • Als u serverloze berekeningen kiest, kunt u de volgende instellingen instellen:

     • Pas de VM-grootte aan die door de rekensessie wordt gebruikt.
     • Pas de niet-actieve tijd aan, waardoor code wordt opgeslagen door de rekensessie automatisch te verwijderen als deze niet in gebruik is.
     • Stel de door de gebruiker toegewezen beheerde identiteit in. De rekensessie gebruikt deze identiteit om een basisinstallatiekopie op te halen en pakketten te installeren. Zorg ervoor dat de door de gebruiker toegewezen beheerde identiteit de pull-machtiging Azure Container Registry heeft.

     Als u de door de gebruiker toegewezen identiteit niet instelt, gebruikt de promptstroom standaard de gebruikersidentiteit. Meer informatie over het maken en bijwerken van door de gebruiker toegewezen identiteiten voor een werkruimte.

     

   • Als u een rekenproces kiest, kunt u alleen de afsluittijd voor inactiviteit instellen.

     • Omdat dit een bestaand rekenproces is, is de VM-grootte vast en kan deze niet worden gewijzigd aan de zijde van een rekensessie.

     • De identiteit die voor deze rekensessie wordt gebruikt, wordt ook gedefinieerd in het rekenproces, standaard wordt de gebruikersidentiteit gebruikt. Meer informatie over het toewijzen van identiteit aan rekenproces

     • De afsluittijd voor inactiviteit wordt gebruikt om de levenscyclus van de rekensessie te definiëren. Als de rekensessie inactief is voor de tijd die u hebt ingesteld, wordt deze automatisch verwijderd. Als afsluiten inactief is ingeschakeld voor een rekenproces, wordt deze afgesloten, maar wordt deze niet verwijderd.

       

4. Selecteer Volgende om de basisinstallatiekopieën op te geven. Gebruik de standaardbasisinstallatiekopieën of geef een aangepaste basisinstallatiekopieën op. Als u een aangepaste basisinstallatiekopieën kiest, geeft u de afbeeldings-URL en de afbeeldingstag op. Alleen installatiekopieën in een openbaar Docker-register of azure Container Registry (ACR) worden ondersteund. Als u een installatiekopie in de ACR opgeeft, moet u (of de door de gebruiker toegewezen beheerde identiteit) ACR-pull-machtiging hebben.

5. Selecteer Volgende om uw instellingen te controleren.

6. Selecteer Toepassen en start de rekensessie om de rekensessie te starten.

Een rekensessie beheren

Als u een rekensessie wilt beheren, selecteert u de Compute-sessie die wordt uitgevoerd op de bovenste werkbalk van de stroompagina.:

• Met de instellingen voor de rekensessie wijzigt u de pagina configuratie van de rekensessie, waar u de VM-zijde en de niet-actieve tijd voor de rekensessie kunt definiëren.
• Installeer pakketten vanuit requirements.txt Wordt geopend requirements.txt in de gebruikersinterface van de promptstroom, zodat u pakketten kunt toevoegen.
• Geïnstalleerde pakketten weergeven toont de pakketten die zijn geïnstalleerd in de rekensessie. Het bevat de pakketten die zijn gebakken in basisinstallatiekopieën en pakketten die zijn opgegeven in het requirements.txt bestand in de stroommap.
• Als u de rekensessie opnieuw instelt, wordt de huidige rekensessie verwijderd en wordt er een nieuwe gemaakt met dezelfde omgeving. Als er een pakketconflict optreedt, kunt u deze optie proberen.
• Als u de rekensessie stopt, wordt de huidige rekensessie verwijderd. Als er geen actieve rekensessie is op een onderliggende serverloze berekening, wordt de rekenresource ook verwijderd. Als de rekensessie zich op een rekenproces bevindt, zorgt het stoppen van de sessie ervoor dat het exemplaar inactief wordt.

U kunt de omgeving aanpassen die u gebruikt om deze stroom uit te voeren door pakketten toe te voegen aan het requirements.txt bestand in de stroommap. Nadat u meer pakketten in dit bestand hebt toegevoegd, kiest u een van de volgende opties:

• Sla triggers op en installeer deze pip install -r requirements.txt in de stroommap. Het proces kan enkele minuten duren, afhankelijk van de pakketten die u installeert.
• Sla het requirements.txt bestand alleen op. U kunt de pakketten later zelf installeren.

Notitie

U kunt de locatie en zelfs de bestandsnaam wijzigen, requirements.txtmaar zorg ervoor dat u deze ook wijzigt in het flow.dag.yaml bestand in de stroommap.

Maak de versie van promptflow en promptflow-tools in requirements.txtniet vast, omdat deze al zijn opgenomen in de basisinstallatiekopieën van de rekensessie.

Pakketten toevoegen in een privéfeed in Azure DevOps

Als u een privéfeed in Azure DevOps wilt gebruiken, voert u de volgende stappen uit:

1. Maak een door de gebruiker toegewezen beheerde identiteit en voeg deze identiteit toe in de Azure DevOps-organisatie. Zie Service-principals en beheerde identiteiten gebruiken voor meer informatie.

   Notitie

   Als de knop Gebruikers toevoegen niet zichtbaar is, beschikt u waarschijnlijk niet over de benodigde machtigingen om deze actie uit te voeren.

2. Door de gebruiker toegewezen identiteiten aan uw project toevoegen of bijwerken.

3. Voeg deze toe {private} aan de URL van uw privéfeed. Als u bijvoorbeeld wilt installeren test_package vanuit test_feed Azure devops, voegt -i https://{private}@{test_feed_url_in_azure_devops} u het volgende toe requirements.txt:

   -i https://{private}@{test_feed_url_in_azure_devops}
   test_package
   

4. Geef de door de gebruiker toegewezen beheerde identiteit op in Start met geavanceerde instellingen als de rekensessie niet wordt uitgevoerd of gebruik de knop Bewerken als de rekensessie wordt uitgevoerd.

   

De basisinstallatiekopieën wijzigen

Standaard gebruiken we de meest recente promptstroominstallatiekopieën als basisinstallatiekopieën. Als u een andere basisinstallatiekopieën wilt gebruiken, moet u uw eigen basisinstallatiekopieën bouwen. De docker-installatiekopie moet worden gebouwd op basis van de basisinstallatiekopie van de promptstroom. mcr.microsoft.com/azureml/promptflow/promptflow-runtime:<newest_version> Gebruik indien mogelijk de nieuwste versie van de basisinstallatiekopieën.

1. Open de promptstroom.

2. Selecteer op de bovenste werkbalk de modus Raw-bestand om bewerken in de bestandseditor in te schakelen.

3. Open de sectie Bestanden en selecteer flow.dag.yaml.

   

4. Geef uw afbeelding op in de environment sectie van het flow.dag.yaml bestand. Als u bijvoorbeeld de afbeelding <your-custom-image>wilt gebruiken, voegt u de volgende code toe:

   environment:
       image: <your-custom-image>
       python_requirements_txt: requirements.txt
   

Runtime van rekenproces upgraden

Als u eerder een runtime voor een rekenproces hebt gemaakt, schakelt u deze over naar een rekensessie met behulp van de volgende stappen:

• Bereid het requirements.txt bestand voor in de stroommap. Zie Een rekensessie beheren voor meer informatie.

• Als u een aangepaste omgeving hebt gemaakt, haalt u de afbeelding op van de pagina met omgevingsgegevens en geeft u deze op in het flow.dag.yaml bestand in de stroommap. Zie De basisinstallatiekopieën wijzigen voor meer informatie. Zorg ervoor dat u gemachtigd bent acr pull voor de installatiekopieën.

• U kunt het bestaande rekenproces blijven gebruiken als u de levenscyclus handmatig wilt beheren.

Verwante resources

• Meer informatie over Promptflow
• Een stroom ontwikkelen
• Een evaluatiestroom ontwikkelen