Parancssori folyamat fejlesztése

Fontos

A cikkben megjelölt (előzetes verziójú) elemek jelenleg nyilvános előzetes verzióban érhetők el. Ez az előzetes verzió szolgáltatásszint-szerződés nélkül érhető el, és éles számítási feladatokhoz nem javasoljuk. Előfordulhat, hogy néhány funkció nem támogatott, vagy korlátozott képességekkel rendelkezik. További információ: Kiegészítő használati feltételek a Microsoft Azure előzetes verziójú termékeihez.

A prompt folyamat egy olyan fejlesztési eszköz, amely a nagy nyelvi modellek (LLM-ek) által működtetett AI-alkalmazások teljes fejlesztési ciklusának egyszerűsítésére szolgál. A prompt folyamat átfogó megoldást kínál, amely leegyszerűsíti az AI-alkalmazások prototípus-készítési, kísérletezési, iterálási és üzembe helyezési folyamatát.

A parancssori folyamattal a következőt hozhatja létre:

• Végrehajtható folyamatok vezénylése LLM-ekkel, kérésekkel és Python-eszközökkel egy vizualizált gráfon keresztül.
• A folyamatokat egyszerűen tesztelheti, hibakereséssel és iterálással végezheti el.
• Hozzon létre parancssori változatokat, és hasonlítsa össze a teljesítményüket.

Ebben a cikkben megtudhatja, hogyan hozhatja létre és fejlesztheti az első parancssori folyamatot az Azure AI Studióban.

Előfeltételek

• Ha még nem rendelkezik Azure AI Studio-projekttel, először hozzon létre egy projektet.
• A parancssori folyamat számítási munkamenetet igényel. Ha nincs futtatókörnyezete, létrehozhat egyet az Azure AI Studióban.
• Üzembe helyezett modellre van szüksége.

A parancssori folyamat létrehozása és fejlesztése

A folyamatot úgy hozhatja létre, hogy klónozza a katalógusban elérhető mintákat, vagy létrehoz egy folyamatot az alapoktól. Ha már rendelkezik folyamatfájlokkal a helyi vagy fájlmegosztásban, importálhatja is a fájlokat egy folyamat létrehozásához.

Parancssori folyamat létrehozása a katalógusból az Azure AI Studióban:

1. Jelentkezzen be az Azure AI Studióba, és válassza ki a projektet.

2. Az összecsukható bal oldali menüben válassza a Parancssori folyamat lehetőséget.

3. Válassza a +Létrehozás lehetőséget.

4. A Standard folyamat csempén válassza a Létrehozás lehetőséget.

5. Az Új folyamat létrehozása lapon adjon meg egy mappanevet, majd válassza a Létrehozás lehetőséget.

   

6. Megnyílik a parancssori folyamat szerzői lapja. Most már megkezdheti a folyamat szerkesztését. Alapértelmezés szerint egy mintafolyamat jelenik meg. Ez a példafolyamat csomópontokkal rendelkezik az LLM- és Python-eszközökhöz.

   

   Feljegyzés

   Csak a vizualizáció gráfnézete. Megjeleníti a fejleszteni kívánt folyamatstruktúrát. Közvetlenül nem szerkesztheti a gráfnézetet, de nagyíthat, kicsinyíthet és görgethet. A gráfnézetben kijelölhet egy csomópontot, amely az eszközszerkesztés nézetben kiemeli és megnyitja a csomópontot.

7. Igény szerint további eszközöket is hozzáadhat a folyamathoz. A látható eszközbeállítások az LLM, a Prompt és a Python. További eszközök megtekintéséhez válassza a + További eszközök lehetőséget.

   

8. Válasszon ki egy kapcsolatot és üzembe helyezést az LLM-eszközszerkesztőben.

   

9. A folyamat futtatásához válassza a Futtatás lehetőséget.

   

10. A folyamatfuttatás állapota Futtatásként jelenik meg.

    

11. A folyamatfuttatás befejezése után válassza a Kimenetek megtekintése lehetőséget a folyamat eredményeinek megtekintéséhez.

    

12. A folyamatfuttatás állapotát és kimenetét a Kimenetek szakaszban tekintheti meg.

    

A folyamat létrehozása

Minden folyamatot egy mappa jelöl, amely tartalmazza a "flow.dag.yaml" fájlt, a forráskódfájlokat és a rendszermappákat. Hozzáadhat új fájlokat, szerkesztheti a meglévő fájlokat, és törölheti a fájlokat. A fájlokat exportálhatja helyire is, vagy importálhat fájlokat a helyi fájlból.

A csomópont összesimított nézetben történő beágyazott szerkesztése mellett bekapcsolhatja a Nyers fájl mód kapcsolót is, és kiválaszthatja a fájl nevét a fájl szerkesztéséhez a fájl megnyitása lapon.

Folyamat bemenete és kimenete

A folyamat bemenete a folyamat egészébe továbbított adatok. Adja meg a bemeneti sémát a név és a típus megadásával. Állítsa be az egyes bemenetek bemeneti értékét a folyamat teszteléséhez. A folyamatbemenetre később a folyamatcsomópontokban szintaxissal ${input.[input name]} hivatkozhat.

A folyamat kimenete a folyamat egésze által előállított adatok, amelyek a folyamat végrehajtásának eredményeit összegzik. A kimeneti táblázatot a folyamatfuttatás vagy a kötegfuttatás befejezése után tekintheti meg és exportálhatja. A folyamat kimeneti értékének meghatározásához hivatkozzon a folyamat egyetlen csomópontos kimenetére szintaxis ${[node name].output} vagy ${[node name].output.[field name]}.

Csomópontok összekapcsolása

A csomópont kimenetére való hivatkozással összekapcsolhatja a csomópontokat. Hivatkozhat például az LLM-csomópont kimenetére a Python-csomópont bemenetében, így a Python-csomópont felhasználhatja az LLM-csomópont kimenetét, és a gráfnézetben láthatja, hogy a két csomópont össze van kapcsolva.

Feltételes vezérlés engedélyezése a folyamathoz

A Prompt Flow nem csupán egyszerűsített módot kínál a folyamat végrehajtására, hanem egy hatékony funkciót is kínál a fejlesztők számára – a feltételes vezérlést, amely lehetővé teszi a felhasználók számára, hogy feltételeket szabjanak a folyamat bármely csomópontjának végrehajtásához.

A feltételes vezérlés alapvető feladata, hogy a folyamat egyes csomópontjait egy aktiválási konfigurációhoz társítsa. Ez a konfiguráció lényegében egy "mikor" utasítás, amely meghatározza, hogy mikor kell végrehajtani egy csomópontot. Ennek a funkciónak a teljesítménye akkor jön létre, ha összetett folyamatokkal rendelkezik, amelyekben bizonyos tevékenységek végrehajtása a korábbi tevékenységek eredményétől függ. A feltételes vezérlővel konfigurálhatja, hogy az adott csomópontok csak a megadott feltételek teljesülése esetén legyenek végrehajtva.

A csomópont aktiválási konfigurációját a csomópont kártyáján található Konfiguráció aktiválása gombra kattintva állíthatja be. Hozzáadhat "mikor" utasítást, és beállíthatja a feltételt. A feltételeket a folyamat bemenetére vagy a csomópont kimenetére hivatkozva állíthatja be. Beállíthatja például a feltételt ${input.[input name]} adott értékként vagy ${[node name].output} meghatározott értékként.

Ha a feltétel nem teljesül, a csomópont ki lesz hagyva. A csomópont állapota "Megkerülve" állapotként jelenik meg.

A folyamat tesztelése

A folyamatot kétféleképpen tesztelheti:

• Futtassa az egyetlen csomópontot.
  • Egyetlen csomópont futtatásához válassza a Futtatás ikont a csomóponton lapított nézetben. A futtatás befejezése után gyorsan ellenőrizheti az eredményeket a csomópont kimeneti szakaszában.
• Futtassa a teljes folyamatot.
  • A teljes folyamat futtatásához kattintson a jobb felső sarokban található Futtatás gombra .

Teszteredmény és nyomkövetés megtekintése (előzetes verzió)

A teljes folyamatfuttatás esetében a folyamat végrehajtása után a futtatási állapot megjelenik a futtatási szalagcímen. Ezután a Nyomkövetés megtekintése lehetőséget választva megtekintheti a nyomkövetést az eredmény ellenőrzéséhez és a folyamat végrehajtásának megfigyeléséhez, ahol megtekintheti a teljes folyamat és az egyes csomópontok bemenetét és kimenetét, valamint részletesebb információkat a hibakereséshez. A futtatás során és a futtatás befejezése után is elérhető.

A nyomkövetési nézet ismertetése

A parancssori folyamat nyomkövetési típusa Flow-ként van kijelölve. A nyomkövetési nézetben a folyamat vezénylésére használt eszközök egyértelmű sorrendje figyelhető meg.

A folyamatgyökér alatt minden 2. szint egy csomópontot jelöl, amelyet függvényhívás formájában hajtanak végre, így a rendszer függvényként azonosítja a span típust. Az egyes csomópontok végrehajtásának időtartama a span fán látható.

A span fában az LLM-hívások könnyen azonosíthatók LLM-spanként. Ezek információt nyújtanak az LLM-hívás időtartamáról és a kapcsolódó jogkivonat költségéről.

A span kiválasztásával a jobb oldalon láthatja a részletes információkat. Ide tartoznak a bemeneti és kimeneti adatok, a nyers Json és a kivétel, amelyek mind hasznosak a megfigyeléshez és a hibakereséshez.

Feljegyzés

A parancssori folyamat SDK-ban a serval span típusokat határoztuk meg, beleértve az LLM-et, a függvényt, a beágyazást, a lekérést és a folyamatot. A rendszer automatikusan létrehozza a végrehajtási adatokat a kijelölt attribútumokban és eseményekben.

A span típusokkal kapcsolatos további információkért tekintse meg a nyomkövetési időtartamot.

A folyamatfuttatás befejezése után az eredmények ellenőrzéséhez a Teszteredmények megtekintése gombra kattintva ellenőrizheti a lista összes előzményfuttatási rekordjait. Alapértelmezés szerint az elmúlt 7 napban létrehozott futtatási rekordok jelennek meg. A feltétel módosításához válassza a Szűrő lehetőséget .

A futtatási rekord nevére kattintva a részletes információkat nyomkövetési nézetben is megtekintheti.

Csevegési folyamat fejlesztése

A csevegési folyamat beszélgetési alkalmazások fejlesztésére lett tervezve, a standard folyamat képességeire építve, és továbbfejlesztett támogatást nyújt a csevegési bemenetekhez/kimenetekhez és a csevegési előzmények kezeléséhez. A csevegési folyamattal egyszerűen létrehozhat egy csevegőrobotot, amely kezeli a csevegés bemenetét és kimenetét.

A csevegési folyamat szerzői oldalán a csevegőfolyamat egy "csevegés" címkével van megjelölve, amely megkülönbözteti a szokásos folyamattól és a kiértékelési folyamattól. A csevegési folyamat teszteléséhez válassza a "Csevegés" gombot egy csevegési párbeszédpanel aktiválásához.

Csevegés bemenete/kimenete és csevegési előzményei

A csevegési folyamatot a szokásostól megkülönböztető legfontosabb elemek a csevegési bemenet, a csevegési előzmények és a csevegés kimenete.

• Csevegési bemenet: A csevegési bemenet a felhasználók által a csevegőrobotnak küldött üzenetekre vagy lekérdezésekre vonatkozik. A csevegési adatok hatékony kezelése elengedhetetlen a sikeres beszélgetéshez, mivel magában foglalja a felhasználói szándékok megértését, a releváns információk kinyerését és a megfelelő válaszok aktiválását.
• Csevegési előzmények: A csevegési előzmények a felhasználó és a csevegőrobot közötti összes interakció rekordja, beleértve a felhasználói bemeneteket és az AI által generált kimeneteket is. A csevegési előzmények fenntartása elengedhetetlen a beszélgetési környezet nyomon követéséhez, és annak biztosításához, hogy az AI kontextus szempontjából releváns válaszokat generáljon.
• Csevegés kimenete: A csevegés kimenete az AI által létrehozott üzenetekre vonatkozik, amelyeket a rendszer a felhasználónak küld a bemenetekre válaszul. A környezetfüggően megfelelő és vonzó csevegési kimenet létrehozása elengedhetetlen a pozitív felhasználói élményhez.

A csevegési folyamat több bemenettel is rendelkezhet, a csevegési folyamathoz csevegési előzményekre és csevegési bemenetekre van szükség .

• A csevegési folyamat bemenetei szakaszban a folyamatbemenetek megjelölhetők csevegési bemenetként. Ezután kitöltheti a csevegés bemeneti értékét a csevegőmezőbe való beírással.

• A parancssori folyamat segíthet a felhasználónak a csevegési előzmények kezelésében. A chat_history Bemenetek szakaszban a csevegési előzményeket jelölik. A csevegőablak összes interakciója, beleértve a felhasználói csevegési bemeneteket, a létrehozott csevegési kimeneteket, valamint az egyéb folyamatbemeneteket és kimeneteket, automatikusan tárolja a csevegési előzményekben. A felhasználó nem tudja manuálisan beállítani a Bemenetek szakaszban szereplő értéket chat_history . A bemenetek és kimenetek listájaként van strukturálva:

  [
  {
      "inputs": {
      "<flow input 1>": "xxxxxxxxxxxxxxx",
      "<flow input 2>": "xxxxxxxxxxxxxxx",
      "<flow input N>""xxxxxxxxxxxxxxx"
      },
      "outputs": {
      "<flow output 1>": "xxxxxxxxxxxx",
      "<flow output 2>": "xxxxxxxxxxxxx",
      "<flow output M>": "xxxxxxxxxxxxx"
      }
  },
  {
      "inputs": {
      "<flow input 1>": "xxxxxxxxxxxxxxx",
      "<flow input 2>": "xxxxxxxxxxxxxxx",
      "<flow input N>""xxxxxxxxxxxxxxx"
      },
      "outputs": {
      "<flow output 1>": "xxxxxxxxxxxx",
      "<flow output 2>": "xxxxxxxxxxxxx",
      "<flow output M>": "xxxxxxxxxxxxx"
      }
  }
  ]
  

Feljegyzés

A csevegőelőzmények automatikus mentésének vagy kezelésének képessége a csevegőablakban végzett tesztek során a szerzői oldalon található funkció. Kötegfuttatások esetén a felhasználóknak tartalmazniuk kell a csevegési előzményeket a kötegelt futtatási adatkészletben. Ha nincs elérhető csevegési előzmény a teszteléshez, egyszerűen állítsa a chat_history egy üres listára [] a kötegelt futtatási adatkészleten belül.

Szerzői kérés csevegési előzményekkel

A csevegési előzményeknek a parancssorokba való beépítése elengedhetetlen a környezettudatos és vonzó csevegőrobot-válaszok létrehozásához. A kérésekben hivatkozhat chat_history a korábbi interakciók lekérésére. Ez lehetővé teszi, hogy hivatkozzon a korábbi bemenetekre és kimenetekre, hogy környezetileg releváns válaszokat hozzon létre.

A Jinja nyelv ciklusos nyelvhelyessége a bemenetek és kimenetek chat_historylistájának megjelenítéséhez.

{% for item in chat_history %}
user:
{{item.inputs.question}}
assistant:
{{item.outputs.answer}}
{% endfor %}

Tesztelés a csevegőmezővel

A csevegőablak interaktív módon tesztelheti a csevegési folyamatot a csevegőrobottal folytatott beszélgetés szimulálásával. Ha a csevegési folyamatot a csevegőmezővel szeretné tesztelni, kövesse az alábbi lépéseket:

1. A csevegőablak megnyitásához válassza a "Csevegés" gombot.
2. Írja be a tesztbemeneteket a csevegőablakba, és az Enter billentyűt lenyomva küldje el őket a csevegőrobotnak.
3. Tekintse át a csevegőrobot válaszait, hogy környezetfüggően megfelelőek és pontosak legyenek.
4. A nyomkövetést a helyszínen tekintheti meg a gyors megfigyeléshez és hibakereséshez.

Következő lépések

• Batch-futtatás több adat használatával és a folyamat teljesítményének kiértékelése
• Kérések hangolása variánsokkal
• Folyamat üzembe helyezése