Folyamatkérés az Azure AI Studióban
Fontos
A cikkben ismertetett funkciók némelyike csak előzetes verzióban érhető el. Ez az előzetes verzió szolgáltatásszint-szerződés nélkül érhető el, és éles számítási feladatokhoz nem javasoljuk. Előfordulhat, hogy néhány funkció nem támogatott, vagy korlátozott képességekkel rendelkezik. További információ: Kiegészítő használati feltételek a Microsoft Azure előzetes verziójú termékeihez.
A prompt folyamat egy olyan fejlesztési eszköz, amely a nagy nyelvi modellek (LLM-ek) által működtetett AI-alkalmazások teljes fejlesztési ciklusának egyszerűsítésére szolgál. A prompt folyamat átfogó megoldást kínál, amely leegyszerűsíti az AI-alkalmazások prototípus-készítési, kísérletezési, iterálási és üzembe helyezési folyamatát.
A parancssori folyamat önállóan érhető el nyílt forráskódú projektként a GitHubon, saját SDK- és VS Code-bővítményével. A parancssori folyamat az Azure AI Studióban és az Azure Machine Tanulás Studióban is elérhető, és ajánlott funkcióként használni. Ez a dokumentáció az Azure AI Studióban történő gyors folyamatra összpontosít.
Definíciók:
- A parancssori folyamat egy folyamat létrehozásához, testreszabásához vagy futtatásához használható szolgáltatás.
- A folyamat egy végrehajtható utasításkészlet, amely implementálhatja az AI-logikát. A folyamatok több eszközzel is létrehozhatók vagy futtathatók, például előre összeállított vászon, LangChain stb. A folyamat iterációi menthetők eszközként; az üzembe helyezés után a folyamat API-vá válik. Nem minden folyamat parancssori folyamat; ehelyett a folyamat létrehozásának egyik módja a parancssori folyamat.
- A parancssor egy modellnek küldött bemeneti csomag, amely a felhasználói bemenetből, a rendszerüzenetből és az esetleges példákból áll. A felhasználói bevitel a csevegőablakban elküldött szöveg. A rendszerüzenet a modell viselkedésére és működésére vonatkozó utasítások készlete.
- A mintafolyamat egy egyszerű, előre összeállított vezénylési folyamat, amely bemutatja a folyamatok működését, és testre szabható.
- A mintakérés egy meghatározott kérés egy adott forgatókönyvhöz, amely átmásolható egy tárból, és a parancssori kialakításban is használható vagy módosítható.
A parancssori folyamat előnyei
Az Azure AI Studio parancssori folyamatával a következőt teheti:
- Végrehajtható folyamatok vezénylése LLM-ekkel, kérésekkel és Python-eszközökkel egy vizualizált gráfon keresztül.
- A folyamatok hibakeresése, megosztása és iterálása a csapatmunkával könnyedén elvégezhető.
- Hozzon létre parancssori változatokat, és hasonlítsa össze a teljesítményüket.
Gyors mérnöki rugalmasság
- Interaktív szerzői élmény: A parancssori folyamat vizuálisan ábrázolja a folyamat struktúráját, így könnyen megértheti és navigálhat a projektekben.
- A gyorshangolás variánsai: Több parancssori változatot is létrehozhat és összehasonlíthat, ezzel elősegítve az iteratív finomítási folyamatot.
- Értékelés: A beépített kiértékelési folyamatok lehetővé teszik a kérések és folyamatok minőségének és hatékonyságának értékelését.
- Átfogó erőforrások: A gyors folyamat beépített eszközök, minták és sablonok tárát tartalmazza, amelyek kiindulópontként szolgálnak a fejlesztéshez, inspirálják a kreativitást és felgyorsítják a folyamatot.
Alkalmasság vállalati használatra
- Együttműködés: A parancssori folyamat támogatja a csapatmunkát, így több felhasználó együtt dolgozhat a gyors mérnöki projekteken, megoszthatja az ismereteket, és fenntarthatja a verziókövetést.
- Teljes körű platform: A gyors folyamat leegyszerűsíti a teljes gyors tervezési folyamatot, a fejlesztéstől a kiértékelésen át az üzembe helyezésig és a monitorozásig. Könnyedén üzembe helyezheti a folyamatokat Azure AI-végpontokként, és valós időben monitorozhatja a teljesítményüket, biztosítva az optimális működést és a folyamatos fejlesztést.
- Nagyvállalati felkészültségi megoldások: A gyors folyamat robusztus Azure AI nagyvállalati felkészültségi megoldásokat alkalmaz, amelyek biztonságos, méretezhető és megbízható alapot biztosítanak a folyamatok fejlesztéséhez, kísérletezéshez és üzembe helyezéséhez.
Az Azure AI Studio gyors folyamatával felszabadíthatja a gyors mérnöki rugalmasságot, hatékonyan együttműködhet, és nagyvállalati szintű megoldásokat alkalmazhat a sikeres LLM-alapú alkalmazásfejlesztéshez és -üzembe helyezéshez.
Folyamatfejlesztési életciklus
A parancssori folyamat egy jól definiált folyamatot kínál, amely megkönnyíti az AI-alkalmazások zökkenőmentes fejlesztését. Használatával hatékonyan haladhat végig a folyamatok fejlesztésének, tesztelésének, finomhangolásának és üzembe helyezésének szakaszain, ami végső soron teljes körű AI-alkalmazások létrehozását eredményezi.
Az életciklus a következő szakaszokból áll:
- Inicializálás: Azonosítsa az üzleti használati esetet, gyűjtsön mintaadatokat, ismerje meg, hogyan hozhat létre alapszintű parancssort, és fejleszthet egy folyamatot, amely kibővíti a képességeit.
- Kísérletezés: Futtassa a folyamatot mintaadatokon, értékelje ki a kérés teljesítményét, és szükség esetén iterálja a folyamatot. Folyamatosan kísérletezzen, amíg meg nem felel az eredményeknek.
- Kiértékelés és pontosítás: Értékelje a folyamat teljesítményét úgy, hogy nagyobb adatkészleten futtatja, kiértékeli a kérés hatékonyságát, és szükség szerint finomítja azt. Folytassa a következő fázissal, ha az eredmények megfelelnek a kívánt feltételeknek.
- Éles környezet: A folyamat optimalizálása a hatékonyság és a hatékonyság érdekében, üzembe helyezés, teljesítmény monitorozása éles környezetben, használati adatok és visszajelzések gyűjtése. Ezekkel az információkkal javíthatja a folyamatot, és hozzájárulhat a korábbi szakaszokhoz a további iterációkhoz.
A strukturált és módszertani megközelítés követésével a gyors folyamat lehetővé teszi a folyamatok megbízható fejlesztését, szigorú tesztelését, finomhangolását és üzembe helyezését, ami robusztus és kifinomult AI-alkalmazások létrehozását eredményezi.
Folyamattípusok
Az Azure AI Studióban elindíthat egy új folyamatot, ha kiválaszt egy folyamattípust vagy egy sablont a katalógusból.
Íme néhány példa a folyamattípusokra:
- Standard folyamat: Az általános alkalmazásfejlesztéshez tervezett standard folyamat lehetővé teszi a folyamat létrehozását az LLM-alapú alkalmazások fejlesztésére szolgáló beépített eszközök széles skáláját használva. Rugalmasságot és sokoldalúságot biztosít az alkalmazások különböző tartományokban történő fejlesztéséhez.
- Csevegési folyamat: A beszélgetési alkalmazások fejlesztésére szabott csevegési folyamat a standard folyamat képességeire épül, és továbbfejlesztett támogatást nyújt a csevegési bemenetekhez/kimenetekhez és a csevegési előzmények kezeléséhez. A natív beszélgetési mód és a beépített funkciók segítségével zökkenőmentesen fejlesztheti és hibakereséssel végezheti el az alkalmazásokat egy beszélgetési környezetben.
- Kiértékelési folyamat: A kiértékelési folyamat lehetővé teszi, hogy olyan folyamatot hozzon létre, amely bemenetként veszi az előző folyamat kimeneteit. Ez a folyamattípus lehetővé teszi a korábbi futtatási eredmények teljesítményének kiértékelését és a releváns metrikák kimenetét, megkönnyítve a modellek vagy alkalmazások értékelését és fejlesztését.
Folyamatok
A parancssori folyamat egy végrehajtható munkafolyamatként szolgál, amely leegyszerűsíti az LLM-alapú AI-alkalmazás fejlesztését. Átfogó keretrendszert biztosít az alkalmazáson belüli adatfolyam és feldolgozás kezeléséhez.
Egy folyamaton belül a csomópontok a középpontba lépnek, és egyedi képességekkel rendelkező konkrét eszközöket képviselnek. Ezek a csomópontok bemenetekkel és kimenetekkel kezelik az adatfeldolgozást, a feladatvégrehajtást és az algoritmikus műveleteket. A csomópontok összekapcsolásával zökkenőmentes műveleti láncot hozhat létre, amely végigvezeti az adatok áramlását az alkalmazáson.
A csomópontkonfiguráció és a finomhangolás megkönnyítése érdekében a munkafolyamat-struktúra vizuális ábrázolása dag (irányított Aciklikus gráf) gráfon keresztül történik. Ez a gráf bemutatja a csomópontok közötti kapcsolatot és függőségeket, és világos áttekintést nyújt a teljes munkafolyamatról.
A Parancssori folyamat folyamat funkciójával megtervezheti, testre szabhatja és optimalizálhatja az AI-alkalmazás logikáját. A csomópontok egységes elrendezése hatékony adatfeldolgozást és hatékony folyamatkezelést biztosít, így robusztus és fejlett alkalmazásokat hozhat létre.
Folyamateszközök kérése
Az eszközök a folyamat alapvető építőelemei.
Az Azure AI Studióban az eszközbeállítások közé tartozik az LLM eszköz, a Prompt eszköz, a Python eszköz stb.
Minden eszköz egy egyszerű, végrehajtható egység egy adott függvénnyel. A különböző eszközök kombinálásával létrehozhat egy folyamatot, amely számos célt valósít meg. Az LLM eszközzel például létrehozhat szöveget, vagy összegzhet egy cikket és a Python-eszközt a szöveg feldolgozásához, hogy tájékoztassa a következő folyamat összetevőjét vagy eredményét.
A Prompt flow-eszközök egyik fő előnye a külső API-k és Python-nyílt forráskód-csomagok zökkenőmentes integrációja. Ez nem csak a nagy nyelvi modellek funkcióit javítja, hanem a fejlesztési folyamatot is hatékonyabbá teszi a fejlesztők számára.
Ha az Azure AI Studio parancssori eszközei nem felelnek meg a követelményeknek, ezt az útmutatót követve fejlesztheti saját egyéni eszközét, és eszközcsomagtá alakíthatja azt. A nyílt forráskód közösség által fejlesztett további egyéni eszközök felfedezéséhez látogasson el erre a lapra.