A parancssori tervezés ismertetése
Az AI-modellnek küldött bemeneti kérések minősége, például az Azure OpenAI-ban elérhetőek, közvetlenül befolyásolja a visszakapott adatok minőségét. A modellnek küldött kérések gondos összeállításával a modell jobb és érdekesebb válaszokat adhat.
Mi az a bevitelalapú betanítás?
A nagy mennyiségű adatra betanított generatív AI-modellek a kérés legvalószínűbb folytatása alapján hozhatnak létre szöveget, képeket, kódot és kreatív tartalmakat.
A parancssori tervezés a parancssorok tervezésének és optimalizálásának folyamata az AI-modellek jobb kihasználása érdekében. A hatékony kérések tervezése kritikus fontosságú az azonnali tervezés sikeressége szempontjából, és jelentősen javíthatja az AI-modell teljesítményét bizonyos feladatok esetében. A releváns, konkrét, egyértelmű és jól strukturált kérések segítségével a modell jobban megértheti a kontextust, és pontosabb válaszokat hozhat létre.
Ha például azt szeretnénk, hogy egy OpenAI-modell termékleírásokat hozzon létre, részletes leírást adhatunk neki, amely leírja a termék funkcióit és előnyeit. Ennek a kontextusnak a megadásával a modell pontosabb és relevánsabb termékleírásokat hozhat létre.
A gyors tervezés segíthet az elfogultság csökkentésében és a méltányosság javításában az AI-modellekben. A különböző és befogadó kérések tervezésével biztosíthatjuk, hogy a modell ne legyen elfogult egy adott csoporttal vagy perspektívával szemben.
Fontos
Függetlenül attól, hogy mennyire jó a tervezésre vonatkozó kérdés, az AI-modellek válaszait soha nem szabad tényként vagy teljesen elfogultságtól mentesnek tekinteni. Mindig felelősségteljesen használja az AI-t. További információ: A Microsoft átláthatósági megjegyzése az Azure OpenAI-ról és a Microsoft AI-alapelveiről.
Emellett a gyors tervezés segíthet megérteni, hogy a modell mely hivatkozásokat használja a válasz létrehozásához. A Generatív AI-modellek rengeteg paraméterrel rendelkeznek, és az ebből következő logika nagyrészt ismeretlen a felhasználók számára, így zavaró lehet, hogyan érkezik a válaszhoz. A könnyen érthető és értelmezhető kérések tervezésével segíthetünk az embereknek jobban megérteni, hogyan hozza létre a modell a válaszait. Ez különösen fontos lehet olyan területeken, mint az egészségügy, ahol kritikus fontosságú megérteni, hogy a modell hogyan hoz döntéseket.
A saját kérések tervezésekor különböző módszereket használhat, amelyek közül számosat a modul közelgő egységei fednek le. Ezek közé tartoznak az utasítások, a környezetfüggő tartalmak, a cues vagy a néhány lövéses példák, valamint a tartalom helyes sorrendje a parancssorban. Az itt tárgyalt módszerek nem teljesek, mivel ez a terület egy árnyalt és folyékony témakör.
AZ API-végpontok szempontjai
A modul többi részében szereplő példák a következőkre ChatCompletionösszpontosítanak: Érdemes megjegyezni, hogy ez ChatCompletion a nem csevegési forgatókönyvekhez is használható, ahol a rendszerüzenet minden utasítást tartalmaz, és a felhasználói tartalom megjelenik a felhasználói szerepkör üzenetében. A legtöbb ilyen példa módosítható a Completion végpont használatára, ha szükséges.
A modell rendelkezésre állása szempontjából a Completion végpont használható korábbi és újabb modellekkel gpt-3 , valamint ChatCompletion a későbbi modellekkel gpt-35-turbo is.
Modellparaméterek módosítása
A modulban tárgyalt technikák mellett a modell paramétereinek módosítása jelentős hatással lehet a válaszra. Különösen és top_p (top_probability) a legvalószínűbb, temperature hogy hatással van a modell válaszára, mivel mindkettő a modell véletlenszerűségét szabályozza, de különböző módokon.
A magasabb értékek kreatívabb és véletlenszerűbb válaszokat eredményeznek, de valószínűleg kevésbé konzisztensek vagy koncentráltak lesznek. A várhatóan fiktív vagy egyedi válaszok a paraméterek magasabb értékeiből származnak, míg a konzisztensebb és konkrétabb tartalomnak alacsonyabb értékeket kell használnia.
Próbálja meg módosítani ezeket a paramétereket ugyanazzal a kéréssel, hogy lássa, milyen hatással vannak a válaszra. Javasoljuk, hogy akár egyszerre, akár temperaturetop_p egyszerre módosítsa a módosítást, de mindkettőt nem.