LLM-eszköz folyamatokhoz az Azure AI Studióban
Fontos
A cikkben megjelölt (előzetes verziójú) elemek jelenleg nyilvános előzetes verzióban érhetők el. Ez az előzetes verzió szolgáltatásszint-szerződés nélkül érhető el, és éles számítási feladatokhoz nem javasoljuk. Előfordulhat, hogy néhány funkció nem támogatott, vagy korlátozott képességekkel rendelkezik. További információ: Kiegészítő használati feltételek a Microsoft Azure előzetes verziójú termékeihez.
Ha nagy nyelvi modelleket (LLM-eket) szeretne használni a természetes nyelvi feldolgozáshoz, használja a prompt flow LLM eszközt.
Feljegyzés
A szöveg sűrű vektoros ábrázolásokká alakításához a különböző természetes nyelvi feldolgozási feladatokhoz tartozó beágyazásokért lásd a Beágyazási eszközt.
Előfeltételek
Készítsen elő egy parancssort a Prompt eszköz dokumentációjában leírtak szerint. Az LLM eszköz és a Prompt eszköz egyaránt támogatja a Jinja-sablonokat . További információkért és ajánlott eljárásokért tekintse meg a Parancssori mérnöki technikákat.
Buildelés az LLM eszközzel
Folyamat létrehozása vagy megnyitása az Azure AI Studióban. További információ: Folyamat létrehozása.
Válassza a + LLM lehetőséget az LLM-eszköznek a folyamathoz való hozzáadásához.
Válassza ki az egyik kiépített erőforráshoz való kapcsolatot. Válassza ki például a Default_AzureOpenAI.
Az Api legördülő listájában válassza a csevegést vagy a befejezést.
Adja meg a Szövegkimeneti bemenetek táblában leírt LLM-eszköz bemeneti paramétereinek értékeit. Ha a csevegési API-t választotta, tekintse meg a Csevegés bemenetei táblát. Ha a befejezési API-t választotta, tekintse meg a Szöveg befejezési bemenetek táblát. A parancssori bemenet előkészítéséről további információt az Előfeltételek című témakörben talál.
Szükség szerint adjon hozzá további eszközöket a folyamathoz. Vagy válassza a Futtatás lehetőséget a folyamat futtatásához.
A kimeneteket a Kimenetek táblában ismertetjük.
Bevitelek
A következő bemeneti paraméterek érhetők el.
Szövegkiegészítési bemenetek
| Név | Típus | Leírás | Kötelező |
|---|---|---|---|
| haladéktalan | húr | A nyelvi modell szöveges kérése. | Igen |
| modell, deployment_name | húr | A használni kívánt nyelvi modell. | Igen |
| max_tokens | egész szám | A befejezéskor létrehozandó jogkivonatok maximális száma. Az alapértelmezett érték 16. | Nem |
| hőmérséklet | float | A létrehozott szöveg véletlenszerűsége. Az alapértelmezett érték 1. | Nem |
| állj | list | A létrehozott szöveg leállási sorozata. Az alapértelmezett érték null. | Nem |
| toldalék | húr | A befejezés végéhez fűzött szöveg. | Nem |
| top_p | float | A létrehozott jogkivonatok közül a legjobb választás használatának valószínűsége. Az alapértelmezett érték 1. | Nem |
| logprobs | egész szám | A létrehozandó napló valószínűségeinek száma. Az alapértelmezett érték null. | Nem |
| echo | Logikai | Az az érték, amely jelzi, hogy a válaszban vissza kell-e adni a kérdést. Az alapértelmezett érték a false (hamis). | Nem |
| presence_penalty | float | A modell ismétlődő kifejezésekre vonatkozó viselkedését vezérlő érték. Az alapértelmezett érték 0. | Nem |
| frequency_penalty | float | Az az érték, amely a modell viselkedését szabályozza a ritka kifejezések generálására vonatkozóan. Az alapértelmezett érték 0. | Nem |
| best_of | egész szám | A létrehozandó legjobb befejezések száma. Az alapértelmezett érték 1. | Nem |
| logit_bias | szótár | A nyelvi modellhez tartozó logit elfogultság. Az alapértelmezett érték üres szótár. | Nem |
Csevegési bemenetek
| Név | Típus | Leírás | Kötelező |
|---|---|---|---|
| haladéktalan | húr | A szöveges üzenet, amelyre a nyelvi modellnek válaszolnia kell. | Igen |
| modell, deployment_name | húr | A használni kívánt nyelvi modell. | Igen |
| max_tokens | egész szám | A válaszban létrehozandó jogkivonatok maximális száma. Az alapértelmezett érték az inf. | Nem |
| hőmérséklet | float | A létrehozott szöveg véletlenszerűsége. Az alapértelmezett érték 1. | Nem |
| állj | list | A létrehozott szöveg leállási sorozata. Az alapértelmezett érték null. | Nem |
| top_p | float | A létrehozott jogkivonatok közül a legjobb választás használatának valószínűsége. Az alapértelmezett érték 1. | Nem |
| presence_penalty | float | A modell ismétlődő kifejezésekre vonatkozó viselkedését vezérlő érték. Az alapértelmezett érték 0. | Nem |
| frequency_penalty | float | Az az érték, amely a modell viselkedését szabályozza a ritka kifejezések generálására vonatkozóan. Az alapértelmezett érték 0. | Nem |
| logit_bias | szótár | A nyelvi modellhez tartozó logit elfogultság. Az alapértelmezett érték üres szótár. | Nem |
Kimenetek
A kimenet a bemenetekhez kiválasztott API-tól függően változik.
| API | Visszatérési típus | Leírás |
|---|---|---|
| Teljesítés | húr | Egy előrejelzett befejezés szövege. |
| Csevegés | húr | A beszélgetés egyetlen válaszának szövege. |