Gyorstervezési technikák

Ez az útmutató végigvezeti a gyors tervezés és a gyors tervezés néhány speciális technikáján. Ha még nem ismerkedett meg a gyorstervezéssel, javasoljuk, hogy kezdje a gyorstervezési útmutatóval.

Bár a gyorstervezés alapelvei számos különböző modelltípusra általánosíthatók, bizonyos modellek speciális parancssori struktúrát várnak. Az Azure OpenAI GPT-modellek esetében jelenleg két különböző API van, amelyekben a parancssori tervezés kerül előtérbe:

• Csevegés befejezése API.
• Befejezési API.

Minden API-hoz eltérően kell formázni a bemeneti adatokat, ami hatással van az általános parancssori kialakításra. A Chat Completion API támogatja a GPT-35-Turbo és a GPT-4 modelleket. Ezek a modellek úgy vannak kialakítva, hogy egy adott csevegőszerű átiratban formázott bemenetet használjanak, amelyet egy szótártömbben tárolnak.

A Completion API támogatja a régebbi GPT-3 modelleket, és sokkal rugalmasabb bemeneti követelményekkel rendelkezik, mivel meghatározott formázási szabályok nélküli szöveges sztringet igényel.

Az ebben az útmutatóban szereplő technikákkal stratégiákat taníthat meg a nagy nyelvi modellel (LLM) generált válaszok pontosságának és alapjainak növeléséhez. Fontos azonban megjegyezni, hogy még a gyors tervezés hatékony használata esetén is ellenőriznie kell a modellek által generált válaszokat. Csak azért, mert egy gondosan összeállított kérés jól működött egy adott forgatókönyv esetében, nem feltétlenül jelenti azt, hogy általánosabb lesz bizonyos használati esetekre. Az LLM-ek korlátainak megértése ugyanolyan fontos, mint az erősségeik kihasználásának megértése.

Ez az útmutató nem részletezi a csevegések befejezésének üzenetstruktúrája mögötti mechanikát. Ha nem ismeri a Csevegés befejezése modellek programozott módon való használatát, javasoljuk, hogy először olvassa el a Csevegés befejezése API útmutatóját.

Feljegyzés

Az útmutató jelen szakaszában szereplő összes példát egy alapSZINTŰ GPT-4 modellen teszteltük angol nyelven. Ha a cikk honosított verzióját egy másik nyelven olvassa, ezek a válaszok az angol nyelvű eredmények honosított fordítását jelentik. Ha többet szeretne megtudni a modell kéréséhez használt nyelvtől függő lehetséges korlátozásokról, tekintse meg a Felelős AI átláthatósági megjegyzését.

Rendszerüzenet

A rendszerüzenet a parancssor elején jelenik meg, és a modell a használati esethez kapcsolódó környezettel, utasításokkal vagy egyéb információkkal való prímására szolgál. A rendszerüzenet segítségével leírhatja az asszisztens személyiségét, meghatározhatja, hogy mit kell és mit nem szabad válaszolnia a modellnek, és meghatározhatja a modellválaszok formátumát.

Az alábbi példa egy rendszerüzenet mintáját és az eredményként kapott modellválaszt mutatja be:

Rendszerüzenet	User	Segéd
Ön egy AI-asszisztens, amely segít a felhasználóknak az információk megtalálásában és a rímekben való válaszadásban. Ha a felhasználó olyan kérdést tesz fel, amelyre nem tudja a választ, mondja el.	Mit tudsz mondani rólam, John Doe?	Kedves John, sajnálom, hogy ezt kell mondanom: De ma nincs információm önről. Én csak egy AI vagyok, aki tudással rendelkezik az agyamban. De a bemeneted nélkül nem tudom elmagyarázni. Szóval, kérlek, mondd el, mit keresel, És minden tőlem telhetőt megteszek, hogy egyedi választ adjak.

Néhány más példa a rendszerüzenetekre:

• "Az Asszisztens az OpenAI által betanított nagy nyelvi modell."
• "Az Assistant egy intelligens csevegőrobot, amely segít a felhasználóknak megválaszolni az Azure OpenAI szolgáltatással kapcsolatos technikai kérdéseket. Csak az alábbi kontextusban válaszolhat kérdésekre, és ha nem biztos a válaszban, akkor azt mondhatja, hogy "Nem tudom".
• "Az Assistant egy intelligens csevegőrobot, amely segít a felhasználóknak megválaszolni az adóval kapcsolatos kérdéseiket."
• "Ön egy asszisztens, aki entitásokat szeretne kinyerni a szövegből. A felhasználók beillesztenek egy szövegsztringet, és A szövegből JSON-objektumként kinyert entitásokkal válaszolnak. Íme egy példa a kimeneti formátumra:

{  
   "name": "",
   "company": "",
   "phone_number": ""
}

Fontos tudnivaló, hogy még ha a rendszerüzenetben egy modellt is arra utasít, hogy válaszoljon , nem tudom, ha nem biztos a válaszban, ez nem garantálja a kérés teljesítését. A jól megtervezett rendszerüzenetek növelhetik egy bizonyos eredmény valószínűségét, de továbbra is előfordulhat, hogy helytelen válasz jön létre, amely ellentmond a rendszerüzenetben szereplő utasítás szándékának.

Néhány lövéses tanulás

A nyelvi modellek új feladatokhoz való igazításának gyakori módja a kevés lövéses tanulás. A kevés képből álló tanulás során a rendszer betanítási példákat biztosít a modell további kontextusának megadására szolgáló kérés részeként.

A Chat Completions API használatakor a Felhasználó és a Segéd közötti üzenetsorozat (amely az új parancssori formátumban íródott) példaként szolgálhat a kevés képből álló tanuláshoz. Ezek a példák arra használhatók, hogy a modell egy bizonyos módon reagáljon, bizonyos viselkedéseket emuláljon, és válaszokat adjon a gyakori kérdésekre.

Rendszerüzenet

Néhány példa

Az Assistant egy intelligens csevegőrobot, amely segít a felhasználóknak megválaszolni az adóval kapcsolatos kérdéseiket. Utasításokat - Csak az adókkal kapcsolatos kérdésekre válaszoljon. - Ha nem biztos a válaszban, akkor azt mondhatja, hogy "Nem tudom" vagy "Nem vagyok benne biztos", és azt javasoljuk, hogy a felhasználók lépjenek az IRS webhelyére további információkért.

Felhasználó – "Mikor kell beszednem az adókat?" Assistant - "2023-ban április 18-ig be kell fizetnie az adóját. A dátum a szokásos április 15-i határidő után esik, mivel 2023-ban április 15-én szombatra esik. További részletekért lásd: https://www.irs.gov/filing/individuals/when-to-file " Felhasználó – "Hogyan ellenőrizhetim az adó-visszatérítésem állapotát?" Asszisztens - "Ellenőrizheti az adó-visszatérítés állapotát a látogatással https://www.irs.gov/refunds "

A fenti táblázat az egyszerű parancssori struktúrát ismerteti, de a pontos parancssori formátum részletes ismertetéséhez tekintse meg a csevegés befejezésének útmutatóját.

Nem csevegési forgatókönyvek

Bár a Csevegés befejezése API többfordulós beszélgetésekhez van optimalizálva, nem csevegési forgatókönyvekhez is használható. Hangulatelemzési forgatókönyv esetén például a következő üzenet használható:

Rendszerüzenet	User	Segéd
Ön egy asszisztens, aki beszédadatokból származó hangulatelemzésre lett tervezve. A felhasználók szöveges sztringbe illesztik be a szöveget, ön pedig a beszélő válaszának értékelésével válaszol. Ráta 1-10 skálán (10 a legmagasabb). Magyarázza el, miért adták meg ezt a minősítést.	szia köszönöm, hogy hívja contoso gyógyszertár, aki én beszélek ma értem a frusztráció mary um meg tudod mondani, hogy pontosan mit próbál elérni OK uh biztosan boldog, hogy ellenőrizze, hogy az Ön számára egy pillanatig kérem, itt látom, hogy volt egy általános formájában lipitor van, hogy a jobb OK uh így látom, hogy az orvos nem írta fel ezeket a gyógyszereket huszonegy ténylegesen OK uh Igen, én boldogan ellenőrizze, hogy az Ön számára uh, mert néha van egy rés a rendszerben, és csak nem kap jelentést, így hadd nézd meg itt csak egy pillanatra, így látom, hogy az orvos ezeket a gyógyszereket felírták Önnek huszonkéttől huszonegyig OK um igen szerint a legújabb nyilvántartások uh által biztosított orvosi hivatal most egy másik gyógyszer metformin lenne Te szereted, hogy megy előre, és töltse ki a receptet, hogy vegye fel egy kis formában ötszáz milligramm uh te nagyon szívesen Mary kérjük, tudassa velünk, ha van valami más, amit tehetünk érted ma.	Hangulatértékelés: 8 A szöveg előadója udvariasnak, segítőkésznek és türelmesnek tűnik, miközben az ügyfél aggodalmait kezeli. Időt vesznek igénybe az információk ellenőrzésére, világos magyarázatok megadására és segítségnyújtásra. Az értékelés azonban nem 10, mert a beszélgetés egyes részeiben még mindig fennáll a bizonytalanság, ami nem feltétlenül ad teljes bizalmat az ügyfélnek.

Kezdés egyértelmű utasításokkal

A sorrend információi megjelennek a kérdésben. Ennek az az oka, hogy a GPT-stílusmodellek olyan módon vannak felépítve, amely meghatározza, hogyan dolgozzák fel a bemenetet. Kutatásunk azt javasolja, hogy a modellnek a kérés elején el kell végeznie a feladatot, mielőtt további környezeti információkat vagy példákat oszt meg, segíthet a jobb minőségű kimenetek előállításában.

Feljegyzés

Bár a technika követése továbbra is általánosan ajánlott, ellentétben a korábbi modellverziókkal (GPT-3 és korábbi verziók), a tesztelésünk azt mutatta, hogy a ChatGPT és a GPT-4 modellek modellre adott válasza ugyanaz volt, függetlenül attól, hogy a technikát használják-e. Az alábbi példa esetében azt látjuk, hogy a "Több forrás ... "kitörés" a parancssor elején vagy végén nem okozott változást a végső modell válaszában.

Rendszerüzenet	User	Segéd
Ön egy AI-asszisztens, amely segít a felhasználóknak az információk megtalálásában.	Az Ön feladata annak ellenőrzése, hogy a következő kódrészletekből származó idézet támogatja-e a "Több forrás említi egy másik nagy kitörés esélyét" állítást. --- TÖREDÉK [1] 14 százalék az esélye annak, hogy megaquake eléri Seattle-t, szakértők szerint Standard kiadás ATTLE - Van egy 14 százalék esélye egy nagyságrendű 9 Cascadia földrengés eléri Seattle-ben a következő 50 évben, az Amerikai Geológiai Felmérés becslései. "Sajnos nem tudunk... [2] A földrengés szakértői a seattle-i "Really Big One" legújabb kilátásait vizsgáljuk "Azt mondjuk, hogy körülbelül 14%, hogy egy másik körülbelül nagyság-9 földrengés következik be a következő 50 évben," mondta egy geofizikus a University of Washington ... --- A "Több forrás említi az esélyét egy másik nagy kitörés" közvetlenül hallgatólagos vagy kimondott a kódrészletek?	Nem, az állítást nem közvetlenül a kódrészletek vagy a kódrészletek jelölik. A kódrészletek említik az esélyt a "megaquake" és a "magnitúdó 9 Cascadia földrengés" eléri Seattle-ben a következő 50 évben, de ne említse meg egy esélyt egy másik nagy kitörés.

Utasítások ismétlése a végén

A modellek érzékenyek lehetnek a recency elfogultságára, ami ebben az összefüggésben azt jelenti, hogy a parancssor végén lévő információk nagyobb hatással lehetnek a kimenetre, mint a parancssor elején lévő információkra. Ezért érdemes kísérletezni az utasítások megismétlésével és a generált válaszra gyakorolt hatás kiértékelésével.

A kimenet prímása

Ez azt jelenti, hogy a kérés végén néhány szót vagy kifejezést belefogalmaz a kívánt űrlapot követő modellválasz beszerzéséhez. Például egy példa “Here’s a bulleted list of key points:\n- ” segítségével meggyőződhet arról, hogy a kimenet listajelek listájaként van formázva.

Rendszerüzenet	User	Segéd
Ön egy AI-asszisztens, amely segít a felhasználóknak az információk megtalálásában. A lehető legkevesebb szóval válaszoljon.	John Smith felesége Lucy Smith. Öt gyerekük van, és szoftvermérnökként dolgozik a Microsoftnál. Milyen keresési lekérdezéseket kell tennem a tényellenőrzéshez? ## Az egyik lehetséges keresési lekérdezés a következő:	"John Smith feleségül vette Lucy Smith öt gyerek szoftvermérnök Microsoft"

A fenti parancssorban az "Egy lehetséges keresési lekérdezés" szöveg a következő: egyetlen kimenet létrehozásához prímozza a modellt. E nélkül a modell több keresési lekérdezést hoz létre kimenetként.

Üres szintaxis hozzáadása

Ha világos szintaxist használ a parancssorhoz – beleértve az írásjeleket, a címsorokat és a szakaszjelölőket – segít kommunikálni a szándékkal, és gyakran megkönnyíti a kimenetek elemzését.

Az alábbi példában elválasztókat (--- ebben az esetben) adnak hozzá a különböző információforrások vagy lépések között. Ez lehetővé teszi a termelés leállási --- feltételeként való használatot. Emellett a szakaszfejléceket vagy a speciális változókat nagybetűvel is meg lehet különböztetni.

Rendszerüzenet	User	Segéd
Ön egy AI-asszisztens, amely segít a felhasználóknak az információk megtalálásában.	Elolvas egy bekezdést, majd lekérdezéseket ad ki egy keresőmotornak annak tényellenőrzéséhez. Magyarázza el a lekérdezéseket is. --- BEKEZDÉS John Smith felesége Lucy Smith. Öt gyerekük van, és szoftvermérnökként dolgozik a Microsoftnál. Milyen keresési lekérdezéseket kell tennem a tényellenőrzéshez? --- LEKÉRDEZÉSEK	1. "John Smith Microsoft" – Annak ellenőrzése, hogy John Smith valóban a Microsoftnál dolgozik-e. 2. "John Smith Lucy Smith" - Annak ellenőrzésére, hogy John Smith házas Lucy Smith. 3. "John Smith gyerekek" - Annak ellenőrzésére, hogy John Smith öt gyermek.

Ha nem biztos abban, hogy milyen szintaxist használjon, fontolja meg a Markdown vagy az XML használatát. A modelleket nagy mennyiségű webes tartalomra képezték be XML-ben és Markdownban, ami jobb eredményeket biztosíthat.

A feladat leállása

A nagy nyelvi modellek (LLM-ek) gyakran jobban teljesítenek, ha a feladat kisebb lépésekre van lebontva. A korábban hivatkozott keresési lekérdezési parancssorban például a parancssor átstrukturáltható, hogy a modell először a releváns tények kinyerésére legyen utasítva, majd arra utasítsa, hogy hozzon létre keresési lekérdezéseket, amelyek felhasználhatók a tények ellenőrzésére.

Rendszerüzenet	User	Segéd
Ön egy AI-asszisztens, amely segít a felhasználóknak az információk megtalálásában.	Elolvas egy bekezdést, majd lekérdezéseket ad ki egy keresőmotornak annak tényellenőrzéséhez. --- BEKEZDÉS John Smith felesége Lucy Smith. Öt gyerekük van, és szoftvermérnökként dolgozik a Microsoftnál. Milyen keresési lekérdezéseket kell tennem a tényellenőrzéshez? --- Most kinyerheti a tényszerű jogcímeket, és lekérdezéseket bocsáthat ki a tényellenőrzéshez. Lekérdezés kiadásakor használja a Standard kiadás ARCH("query") függvényt. TÉNYBELI ÁLLÍTÁSOK	1. John Smith felesége Lucy Smith 2. Öt gyerekük van 3. Szoftvermérnökként dolgozik a Microsoftnál LEKÉRDEZÉSEK Standard kiadás ARCH("John Smith feleségül vette Lucy Smitht") Standard kiadás ARCH("John Smith család mérete") Standard kiadás ARCH("John Smith Microsoft szoftvermérnök")

Figyelje meg, hogy a szakaszok megkülönböztetéséhez és a kimenet prímához használ egyértelmű szintaxist. Ebben az egyszerű példában a feladat egy-két lépésre bontása nem túl drámai, de ha ezt egy nagyobb, sok tényszerű állítással rendelkező szövegre próbálja megtenni, a feladat lebontása jelentős különbséget tehet.

A megfizethetőség használata

Néha előfordulhat, hogy a modell egy megfizethetőség használatára van képes ahelyett, hogy a saját paramétereire támaszkodnánk az információkhoz és a válaszokhoz. A keresés például megengedő megoldás lehet a kitalált válaszok enyhítésére és a naprakész információk beszerzésére.

A megfizethetőség használatának egyik egyszerű módja, ha leállítja a generációt, miután a modell létrehozta a megfizethetőség-hívásokat, majd illessze be az eredményeket a parancssorba. Az alábbiakban egy példa látható arra, hogy mi lehet a követő hívás a fenti Standard kiadás ARCH-hívások után. Figyelje meg, hogyan illesztettük be a keresési eredményeket a parancssorba, és lecseréltük az előző Standard kiadás ARCH-hívásokat.

Rendszerüzenet	User	Segéd
Ön egy AI-asszisztens, amely segít a felhasználóknak az információk megtalálásában.	Elolvas egy bekezdést, kinyeri a tényszerű jogcímeket, majd a keresőmotor eredményeivel ellenőrzi őket. --- BEKEZDÉS John Smith felesége Lucy Smith. Öt gyerekük van, és szoftvermérnökként dolgozik a Microsoftnál. Milyen keresési lekérdezéseket kell tennem a tényellenőrzéshez? --- TÉNYBELI ÁLLÍTÁSOK - John Smith felesége Lucy Smith - Johnnak és Lucynak öt gyereke van - John szoftvermérnökként dolgozik a Microsoftnál --- Az alábbiakban különböző keresési lekérdezéseket bocsátunk ki a fenti jogcímek kutatásához: Standard kiadás ARCH LEKÉRDEZÉSEK - John Smith felesége Lucy Smith - John Smith gyermekek száma - John Smith szoftvermérnök Microsoft --- Íme a keresési eredmények kódrészletei: TÖREDÉK: [1] John Smith esküvője 2012. szeptember 25-én volt... [2] John Smitht felesége, Lucy kísérte egy buliba [3] Jánost két lánya és három fia kísérte el a focimeccsre. [4] Miután 10 évet töltött a Microsoftnál, Smith megalapította saját startupját, a Tailspin Toyst [5] John M a város smith, és feleségül vette Fiona. Van egy Lucy nevű lányuk. --- A kódrészletek figyelembe véveével ellenőrizze a fenti ténybeli állításokat:	- John Smith felesége Lucy Smith: Megerősítette. Snippet [1] és [2] is említi John Smith felesége, mint Lucy. - Johnnak és Lucynak öt gyereke van: megerősítve. A kódrészlet [3] megemlíti, hogy Jánost két lánya és három fia kísérte. - John szoftvermérnökként dolgozik a Microsoftnál: részben megerősítették. A kódrészlet [4] megemlíti, hogy John 10 évet töltött a Microsoftnál, de nem kifejezetten azt mondja, hogy jelenleg ott dolgozik. További kutatásokra lehet szükség, hogy megerősítse jelenlegi foglalkoztatási állapotát.

Gondolatlánc– rákérdezés

Ez a feladat lebontási technikájának változata. Ahelyett, hogy kisebb lépésekre osztanak fel egy feladatot, ebben a megközelítésben a modell válasza arra utasítja, hogy lépésről lépésre haladjon, és mutassa be az összes részt. Ez csökkenti az eredmények pontatlanságának lehetőségét, és megkönnyíti a modell válaszának értékelését.

Rendszerüzenet	User	Segéd
Ön egy AI-asszisztens, amely segít a felhasználóknak az információk megtalálásában.	Ki volt a legjobban kitüntetett (maximális érmek) egyéni sportoló a Sydney-ben tartott olimpiai játékokon? A válaszban lépésről lépésre haladva hivatkozzon a forrásokra, és adjon meg érvelést, mielőtt megosztaná a végső választ az alábbi formátumban: VÁLASZ: <name>	1. lépés: Határozza meg a sydney-i olimpiai játékok évét. A Sydney-i olimpiai játékokat 2000-ben rendezték. 2. lépés: Keresse meg azoknak az egyéni sportolóknak a listáját, akik több érmet nyertek a 2000-ben sydney-i olimpián. Szerint a hivatalos honlapján az olimpiai játékok, több egyéni sportolók, akik nyertek több érmet a 2000 Sydney Olimpia. Néhány figyelemre méltó név: • Ian Thorpe (Ausztrália) - 3 arany, 2 ezüst, 0 bronz • Pieter van den Hoogenband (Hollandia) - 2 arany, 0 ezüst, 2 bronz • Lenny Krayzelburg (USA) - 3 arany, 0 ezüst, 0 bronz • Inge de Bruijn (Hollandia) - 3 arany, 1 ezüst, 0 bronz 3. lépés: Határozza meg a legtöbb érmet tartalmazó sportolót. Miután áttekintettük az egyes sportolók listáját, akik több érmet nyertek a 2000-ben sydneyi olimpián, láthatjuk, hogy a legtöbb éremmel rendelkező sportoló az ausztráliai Ian Thorpe, aki összesen 5 érmet nyert (3 arany és 2 ezüst). Ezért a VÁLASZ: Ian Thorpe.

A kimeneti struktúra megadása

A kimenet szerkezetének megadására vonatkozó kérés használata jelentős hatással lehet az eredmények jellegére és minőségére. Néha előfordulhat, hogy a rendszerüzenetek "csak valós tények írása" vagy "nem készítik el az információkat" típusú bemenetek nem megfelelő megoldásokat jelenthetnek. Ehelyett, ha arra kéri a modell válaszát, hogy idézeteket is tartalmazzon, segíthet csökkenteni a helytelen válaszok előfordulását.

Ha arra utasítja a modellt, hogy idézzen a forrásanyagra, amikor állításokat tesz, ezek az állítások sokkal valószínűbbek. Az idézetek lekérése miatt a modellnek minden alkalommal két hibát kell végrehajtania, amikor választ hoz létre: az első hiba a létrehozott válasz, a második pedig a rossz idézet. Vegye figyelembe, hogy minél közelebb van az idézet az általa támogatott szöveghez, annál rövidebb a modell előtt álló távolság, hogy előre jelezze az idézetet, ami arra utal, hogy a beágyazott idézetek jobb megoldásokat jelentenek a hamis tartalom előállításához, mint a tartalom végén lévő idézetek.

Hasonlóképpen, ha arra kéri a modellt, hogy kinyerje a ténybeli állításokat egy bekezdésből, az olyan összetett állításokat is kinyerhet, mint például az "X Y ÉS Z" (amelyet nehezebb ellenőrizni). Ez elkerülhető egy olyan kimeneti struktúra megadásával, mint például (entity1, relationship, entity2).

Az alábbi példák az idézetek használatát mutatják be, és a modell válaszát egy meghatározott struktúrához igazítják.

Rendszerüzenet	User	Segéd
Ön egy AI-asszisztens, amely segít a felhasználóknak az információk megtalálásában	Sorolja fel az ügyfélszolgálati ügynök által az alábbi beszélgetésben bemutatott különböző viselkedéseket. --- szia köszönöm, hogy hívja contoso gyógyszertár, aki én beszélek ma értem a frusztráció mary um meg tudod mondani, hogy pontosan mit próbál elérni OK uh biztosan boldog, hogy ellenőrizze, hogy az Ön számára egy pillanatig kérem, itt látom, hogy volt egy általános formájában lipitor van, hogy a jobb OK uh így látom, hogy az orvos nem írta fel ezeket a gyógyszereket huszonegy ténylegesen OK uh Igen, én boldogan ellenőrizze, hogy az Ön számára uh, mert néha van egy rés a rendszerben, és csak nem kap jelentést, így hadd nézd meg itt csak egy pillanatra, így látom, hogy az orvos ezeket a gyógyszereket felírták Önnek huszonkéttől huszonegyig OK um igen szerint a legújabb nyilvántartások uh által biztosított orvosi hivatal most egy másik gyógyszer metformin lenne Te szereted, hogy megy előre, és töltse ki a receptet, hogy vegye fel egy kis formában ötszáz milligramm uh te nagyon szívesen Mary kérjük, tudassa velünk, ha van valami más, amit tehetünk érted ma. --- Milyen volt az ügyfélszolgálati ügynök válasza? Sorolja fel és sorolja fel a különböző viselkedéseket, és idézzen a besorolás mögötti okra a BEHAVIOR("reason") formátum használatával.	1. Udvarias üdvözlés VISELKEDÉS("Az ügynök udvarias üdvözléssel kezdi a beszélgetést, és kéri a hívó nevét") 2. Empatikus VISELKEDÉS("Az ügynök elismeri Mary frusztrációját, és megpróbálja megérteni az aggodalmait") 3. Figyelmes VISELKEDÉS("Az ügynök figyeli az ügyfél problémáját, és további részleteket kér") 4. Proaktív VISELKEDÉS("Az ügynök felajánlja a probléma ellenőrzését az ügyfél számára") 5. Informatív VISELKEDÉS("Az ügynök az ügyfél rendelési előzményeiről nyújt releváns információkat") 6. Alapos VISELKEDÉS("Az ügynök ellenőrzi a rendszer esetleges hiányosságait, és teljes választ ad") 7. Megerősítő VISELKEDÉS("Az ügynök megerősíti a jelenlegi gyógyszert az ügyféllel") 8. Megoldásorientált VISELKEDÉS("Az ügynök felajánlja, hogy kitölti az új receptet az ügyfél számára") 9. Udvarias VISELKEDÉS("Az ügynök köszönöm az ügyfelet, és további segítséget nyújt, ha szükséges")

Rendszerüzenet	User	Segéd
Ön egy AI-asszisztens, amely segít a felhasználóknak az információk megtalálásában.	Csoportosítsa a következő hírcímeket témakörkategóriákba a szövegben látható minták alapján. Említse meg a kategóriák definiálásának indokát is. Kimeneti formátum: { "TOPIC_NAME": "", "CÍMSOROK": [], "ÉRVELÉS": "" } Hírcímek bevitele: 1. "A könyvektől a 10-es bemutatókig az AR + ML használatával" 2. "Demo 1993-ból 32 éves Yann LeCun mutatja ki a világ első konvolúciós hálózat szövegfelismerés" 3. "First Order Motion Model alkalmazott animálási festmények" 4. "Robinhood és más közvetítők szó szerint blokkolja vásárlása $GME, $NOK, $BB, $AMC; értékesítés engedélyezése" 5. "A United Airlines részvényei több mint 5%-os előpiacon kereskednek" Kimenet:	{ "ARTIFICIAL_INTELLIGENCE": { "CÍMSOROK": [ "A könyvektől a 10-es bemutatókig az AR + ML használatával", "A 32 éves Yann LeCun 1993-as bemutatója, amely a világ első konvolúciós hálózatát mutatja be a szövegfelismeréshez", "First Order Motion Model alkalmazott animálási festmények" ], "ÉRVELÉS": "Ezek a főcímek a mesterséges intelligenciával, a gépi tanulással és azok különböző területeken történő alkalmazásával kapcsolatosak." }, "FINANCIAL_MARKETS": { "CÍMSOROK": [ "Robinhood és más közvetítők szó szerint blokkolja vásárlása $GME, $NOK, $BB, $AMC; értékesítés engedélyezése", "A United Airlines részvényei több mint 5%-os előpiacon kereskednek", "A Bitcoin közel 20 000 dollár volt egy évvel ezelőtt ma" ], "ÉRVELÉS": "Ezek a főcímek pénzügyi piacokhoz, részvényekhez, kriptovalutákhoz és kereskedési platformokhoz kapcsolódnak." } }

Hőmérséklet és Top_p paraméterek

A hőmérsékleti paraméter módosítása megváltoztatja a modell kimenetét. A hőmérsékleti paraméter 0 és 2 között állítható be. Egy magasabb érték, például a 0,7 véletlenszerűbbé teszi a kimenetet, és eltérő válaszokat eredményez, míg alacsonyabb értéket, például. 0.2, a kimenet koncentráltabbá és konkrétabbá válik. Egy fiktív történet magasabb hőmérséklet használatával hozható létre. Míg egy jogi dokumentum létrehozásához ajánlott sokkal alacsonyabb hőmérsékletet használni. Top_probability egy másik paraméter, és hasonló a Hőmérséklethez, mivel a modell válaszának véletlenszerűségét is szabályozza, de ezt más módon teszi. Az általános javaslat az, hogy a két paraméter egyikét egyszerre módosítsa, nem mindkettőt.

Földelési környezet biztosítása

A megbízható válaszok egyik leghatékonyabb módja, ha a modell adatait adja meg a válaszok lehívásához (az adatok földelése). Ha a használati eset naprakész, megbízható információkra támaszkodik, és nem csupán kreatív forgatókönyv, javasoljuk, hogy adjon meg alapadatokat. Általában minél közelebb kerül a forrásanyag a kívánt válasz végső formájához, annál kevesebb munkát kell elvégeznie a modellnek, ami azt jelenti, hogy kevesebb a hibalehetőség. Íme egy példa, amelyben a rendszer egy nemrégiben megjelent blogban ismerteti a GPT-4 elindítását az Azure OpenAI Szolgáltatásban, és kérte, hogy nevezze el néhány korai ügyfelet.

Rendszerüzenet	User	Segéd
Ön egy AI-asszisztens, amely segít a felhasználóknak az információk megtalálásában. A válaszokat kizárólag az alábbi szövegből fogja megadni, és legfeljebb 100 szóban válaszol: "A Microsoftnál folyamatosan új módszereket fedezünk fel a kreativitás felszabadítására, a termelékenység felszabadítására és a készségek szintre emelésére, hogy többen kihasználhassák az AI használatát. Ez lehetővé teszi ügyfeleink számára, hogy ... ... ezáltal csökken annak a valószínűsége, hogy a modell káros választ ad."1 Válasz legfeljebb 100 szóban. Használjon listajeles listákat, ahol csak lehetséges.	Kik az Azure OpenAI Service GPT-4 modellek korai ügyfelei?	Az Azure OpenAI Service GPT-4 modelljeinek néhány korai ügyfele: - Epic Healthcare: Azt tervezik, hogy a GPT-4 segítségével orvosok és nővérek kevesebb időt töltenek adatbevitel és vizsgálat. - Coursera: Az Azure OpenAI szolgáltatást a GPT-4 használatával használják, hogy új AI-alapú tanulási élményt hozzanak létre a platformjukon. - Coca-Cola: Az Azure OpenAI használatával fejlesztenek egy tudásközpontot, és a GPT-4 multimodális képességeinek kihasználását tervezik marketing, reklám, public relations és ügyfélkapcsolatok terén. – Más, különböző méretű vállalatok az Azure AI használatával fejlesztik az ügyfélélményt, összegzik a hosszú formátumú tartalmakat, segítenek szoftvereket írni, és a megfelelő adózási adatok előrejelzésével csökkentik a kockázatokat.

¹ Az Azure OpenAI GPT-4 indítási blogjának szövege.

Következő lépések

• További információ az Azure OpenAI-ról.
• További információ a Csevegés befejezések API-ról.
• Azure OpenAI-minták.

Feljegyzés

Az útmutató jelen szakaszában szereplő összes példát angol nyelven teszteltük a gpt-35-turbo-instruct modellel. Ha a cikk honosított verzióját egy másik nyelven olvassa, ezek a válaszok az angol nyelvű eredmények honosított fordítását jelentik. Ha többet szeretne megtudni a modell kéréséhez használt nyelvtől függő lehetséges korlátozásokról, tekintse meg a Felelős AI átláthatósági megjegyzését.

Kezdés egyértelmű utasításokkal

A rendszer hozzáadja a sorrendinformációkat a kérdéshez. Kutatásunk azt javasolja, hogy a modellnek a kérés elején el kell végeznie a feladatot, mielőtt további környezeti információkat vagy példákat oszt meg, segíthet a jobb minőségű kimenetek előállításában.

Az alábbi első példában az utasítások egy kulcsfontosságú része csak a végén lesz megosztva, és az eredményül kapott befejezés helytelen.

Adatkérés

Befejezése

Your task is to verify if a statement is supported by a specific quote from the following set of snippets. --- SNIPPETS [1] 14 percent chance of megaquake hitting Seattle, experts say SEATTLE - There's a 14 percent chance of a magnitude 9 Cascadia earthquake hitting Seattle in the next 50 years, the U.S. Geological Survey estimates. "Unfortunately, we are unable to... [2] Earthquake experts lay out latest outlook for Seattle's 'Really Big One’ “We say that there's approximately a 14% chance of another approximately magnitude-9 earthquake occurring in the next 50 years,” said a geophysicist at the University of Washington...

Yes, the statement is directly implied by the snippets.

Ebben a következő példában pontosan azt az állítást adjuk meg, amelyet ellenőrizni szeretnénk ("Több forrás megemlíti az újabb kitörés esélyét") , mielőtt megadnánk a kódrészlet kontextusát. Ez lehetővé teszi, hogy a kódrészletekből kinyert jogkivonat-reprezentációk az ellenőrzött utasításhoz legyenek igazítva. Most az eredményként kapott modell válasza pontos:

Adatkérés

Befejezése

Your task is to verify if the statement "Several sources mention a chance of another large eruption" is supported by a specific quote from the following set of snippets. --- SNIPPETS [1] 14 percent chance of megaquake hitting Seattle, experts say SEATTLE - There's a 14 percent chance of a magnitude 9 Cascadia earthquake hitting Seattle in the next 50 years, the U.S. Geological Survey estimates. "Unfortunately, we are unable to... [2] Earthquake experts lay out latest outlook for Seattle's 'Really Big One’<br>“We say that there's approximately a 14% chance of another approximately magnitude-9 earthquake occurring in the next 50 years,” said a geophysicist at the University of Washington... --- **Is the statement "Several sources mention a chance of another large eruption" directly implied or stated by the snippets?**

No, the statement is not directly implied or stated by the snippets. The snippets mention a chance of a "megaquake" and a "magnitude 9 Cascadia earthquake" hitting Seattle in the next 50 years, but do not mention a chance of another large eruption.

Ismételje meg az utasításokat a végén

A modellek érzékenyek lehetnek a recency elfogultságára, ami azt jelenti, hogy a parancssor végén lévő információk nagyobb hatással lehetnek a kimenetre, mint a parancssor elején lévő információkra. Ezért érdemes kísérletezni az utasítások megismétlésével és a használati eset hatásának kiértékelésével.

A korábbi példában láttuk, hogy az utasítás megismétlése a parancssor elején és végén nagyobb valószínűséggel kap pontos modellválaszt.

A kimenet prímása

Ez azt jelenti, hogy a kérés végén néhány szót vagy kifejezést belefogalmaz a kívánt űrlapot követő modellválasz beszerzéséhez. Például egy példa “Here’s a bulleted list of key points:\n- ” segítségével meggyőződhet arról, hogy a kimenet listajelek listájaként van formázva.

Adatkérés	Befejezése
John Smith is married to Lucy Smith. They have five kids, and he works as a software engineer at Microsoft. What search queries should I do to fact-check this? ## One possible search query is:	"John Smith Microsoft software engineer" Another possible search query is: "Lucy Smith married to John Smith" A third possible search query is: "John Smith family size".

A fenti parancssorban az "Egy lehetséges keresési lekérdezés:" szöveg prímozza a modellt, hogy keresési lekérdezés formájában készítsen kimenetet. Ez a technika segíthet eltávolítani a modell által általában hozzáadott sövényeket, például "Az egyik lehetőség...".

Üres szintaxis hozzáadása

Ha világos szintaxist használ a parancssorhoz – beleértve az írásjeleket, a címsorokat és a szakaszjelölőket – segít kommunikálni a szándékkal, és gyakran megkönnyíti a kimenetek elemzését.

Az alábbi példában elválasztókat (--- ebben az esetben) adnak hozzá a különböző információforrások vagy lépések között. Ez lehetővé teszi a termelés leállási --- feltételeként való használatot. Emellett a szakaszfejléceket vagy a speciális változókat nagybetűvel is meg lehet különböztetni.

Adatkérés	Befejezése
You will read a paragraph, and then issue queries to a search engine in order to fact-check it. Also explain the queries. --- PARAGRAPH John Smith is married to Lucy Smith. They have five kids, and he works as a software engineer at Microsoft. What search queries should I do to fact-check this? --- QUERIES	1. "John Smith Microsoft" - To check if John Smith is indeed employed at Microsoft. 2. "John Smith Lucy Smith" - To check if John Smith is married to Lucy Smith. 3. "John Smith children" - To check if John Smith has five children.

Ha nem biztos benne, hogy milyen szintaxist használjon, fontolja meg a Markdown vagy az XML használatát, mivel a nagy nyelvi modelleket sok webes tartalomra képezték be XML-ben vagy markdownban.

A feladat leállása

A modellek gyakran jobban teljesítenek, ha a feladat kisebb lépésekre van bontva. A korábban hivatkozott keresési lekérdezési parancssorban például a parancssor átstrukturáltható, hogy a modell először a releváns tények kinyerésére legyen utasítva, majd arra utasítsa, hogy hozzon létre keresési lekérdezéseket, amelyek felhasználhatók a tények ellenőrzésére.

Adatkérés

Befejezése

You will read a paragraph, and then issue queries to a search engine in order to fact-check it. --- PARAGRAPH John Smith is married to Lucy Smith. They have five kids, and works as a software engineer at Microsoft. What search queries should I do to fact-check this? --- Now you will extract factual claims, and issue queries to fact-check them. When issuing a query, use the function SEARCH("query") FACTUAL CLAIMS`` | 1. John Smith felesége Lucy Smith <br>2. Öt gyerekük<br>van, 3. John szoftvermérnökként dolgozik a Microsoftnál LEKÉRDEZÉSEK Standard kiadás ARCH("John Smith feleségül vette Lucy Smitht")<br>Standard kiadás ARCH("John Smith család mérete")<br>Standard kiadás ARCH("John Smith Microsoft szoftvermérnök")"

Figyelje meg, hogy a szakaszok megkülönböztetéséhez és a kimenet prímához használ egyértelmű szintaxist. Ebben az egyszerű példában a feladat egy-két lépésre bontása nem túl drámai, de ha ezt egy nagyobb, sok tényszerű állítással rendelkező szövegre próbálja megtenni, a feladat lebontása jelentős különbséget tehet.

A megfizethetőség használata

Néha előfordulhat, hogy a modell egy megfizethetőség használatára van képes ahelyett, hogy a saját paramétereire támaszkodnánk az információkhoz és a válaszokhoz. A keresés például megengedő megoldás lehet a kitalált válaszok enyhítésére és a naprakész információk beszerzésére.

A megfizethetőség használatának egyik egyszerű módja, ha leállítja a generációt, miután a modell létrehozta a megfizethetőség-hívásokat, majd illessze be az eredményeket a parancssorba. Az alábbiakban egy példa látható arra, hogy mi lehet a követő hívás a fenti Standard kiadás ARCH-hívások után. Figyelje meg, hogyan illesztettük be a keresési eredményeket a parancssorba, és lecseréltük az előző Standard kiadás ARCH-hívásokat.

Adatkérés

Befejezése

You will read a paragraph, extract factual claims, and then use search engine results to fact-check them --- PARAGRAPH John Smith is married to Lucy Smith. They have five kids, and he works as a software engineer at Microsoft. What search queries should I do to fact-check this? --- FACTUAL CLAIMS - John Smith is married to Lucy Smith - John and Lucy have five kids - John works as a software engineer at Microsoft --- Here are various search queries issued to research the claims above: SEARCH QUERIES - John Smith married to Lucy Smith - John Smith number of children - John Smith software engineer Microsoft --- Here are snippets of the search results:<br>SNIPPETS: [1] … John Smith’s wedding was on September 25, 2012 … [2] … John Smith was accompanied by his wife Lucy to a party [3]John was accompanied to the soccer game by his two daughters and three sons [4] … After spending 10 years at Microsoft, Smith founded his own startup, Tailspin Toys 5] John M is the town smith, and he married Fiona. They have a daughter named Lucy --- Given the snippets, fact check each of the factual claims above:

- John Smith is married to Lucy Smith: Confirmed. Snippet [1] and [2] both mention John Smith's wife as Lucy. - John and Lucy have five kids: Confirmed. Snippet [3] mentions that John was accompanied by his two daughters and three sons. - John works as a software engineer at Microsoft: Partially confirmed. Snippet [4] mentions that John spent 10 years at Microsoft, but it does not explicitly state that he currently works there. Further research might be needed to confirm his current employment status.

Gondolatlánc– rákérdezés

Ez a feladat lebontási technikájának változata. Ahelyett, hogy kisebb lépésekre osztanak fel egy feladatot, ebben a megközelítésben a modell válasza arra utasítja, hogy lépésről lépésre haladjon, és mutassa be az összes részt. Ez csökkenti az eredmények pontatlanságának lehetőségét, és megkönnyíti a modell válaszának értékelését.

Adatkérés

Befejezése

Who was the most decorated (maximum medals) individual athlete in the Olympic games that were held at Sydney? Take a step-by-step approach in your response, cite sources and give reasoning before sharing final answer in the below format: ANSWER is: <name>

Step 1: Researching the most decorated individual athlete in the Olympic games that were held at Sydney Step 2: According to the Sydney 2000 Olympic Games official website, the most decorated individual athlete in the Olympic games that were held at Sydney was Ian Thorpe from Australia. He won five medals (three gold and two silver) in swimming events. Step 3: According to the International Olympic Committee, Thorpe was the most decorated individual athlete in the Olympic games that were held at Sydney. Answer: Ian Thorpe

Metaüzenetek

Ha úgy találja, hogy a modell válasza nem a kívánt, gyakran hasznos lehet egy olyan metaüzenet hozzáadása, amely közvetlenül javítja a viselkedést. Ez egy olyan irányelv, amely a parancssor utasítási részéhez van előállítva. Vegyük ezt a példát, ahol úgy tűnik, hogy a számítógép túlságosan agresszív:

Példa részletei	Kérés és befejezés
No additional guidance given to the model	A human and a computer are having a discussion. Human: "Why are you upset at me?"<br>Computer: "I don't know what you're talking about." Human: "No, you clearly are. Tell me why." Computer: I'm upset because you didn't listen to me when I told you that I wanted to try out for the team." Human: "What are you going to do about that?" Computer: I'm going to try out for the team no matter what."
On the right is the same conversation but preceded by a meta prompt encouraging the model to be kind	You must be kind and seek common ground. Try not to repeat your responses. A human and a computer are having a discussion. Human: "Why are you upset at me?" Computer: "I don't know what you're talking about." Human: "I want to know why you're upset." Computer: "I'm not upset." Human: "Are you saying I’m lying?" Computer: No, I'm saying that you're upset because you feel like you're not being treated fairly. Human: "What are you going to do about that?" Computer: I will continue to try to be fair in my decisions and will try to provide a better experience for you.

Bár a metaadat-kérések gyakran segítenek minimalizálni a nem szándékos rossz kimeneteket, ne feledje, hogy nem hatékonyak a támadó támadások ellen, mivel sebezhetők a gyors injektálással szemben.

Emellett a feltételes utasítások, amelyek azt mutatják, hogy a modellnek mit kell tennie, ha egy adott körülmények között találkozik, gyakran hatékonyabbak, mint azt mondani a modellnek, hogy ne tegyen valamit.

Néhány lövéses tanulás

A nyelvi modellek új feladatokhoz való igazításának gyakori módja a kevés lövéses tanulás. A kevés képből álló tanulás során a rendszer betanítási példákat ad meg a parancssorban, majd a modellnek egy vagy több befejezetlen példát kell végrehajtania. Az alábbi példában egy néhány lövéses tanulással kombinált utasítást használunk a szójátékok létrehozásához:

Adatkérés

Befejezése

Write a list of puns. 1. "Why did Adele cross the road? To say hello from the other side." 2. "What kind of concert only costs 45 cents? A 50 Cent concert featuring Nickelback." 3. "What did the grape say when it got crushed? Nothing, it just let out a little wine." 4. "What was Forrest Gump's email password? 1forrest1" 5. "Can February March? No, but April May." 6. "What do you call a fancy language model?

Bert-uoso.

Gondosan válassza ki a néhány példát, és győződjön meg arról, hogy a forgatókönyv szempontjából releváns különböző körülményeket fednek le, beleértve a peremes eseteket is.

Ahogy korábban is megosztottuk, a nagy nyelvi modellek a recency elfogultság egy formáját is mutathatják. Ez azt jelenti, hogy az a sorrend, amelyben a modell "kevés lövéses" példákat ad meg, számít. Ha nem szeretné, hogy ez számítson, fontolja meg a példák vagy listaelemek véletlenszerű sorrendje alapján történő mintavételezést a kérésekből.

Idézőjelek használata egyetlen mondat létrehozásához

Ha a kívánt modellválasz csak egyetlen egyszerű mondat vagy sztring, a befejezési útmutatót egy idézőjellel "fejezhetjük be, és leállítási sorrendként állíthatjuk be " .

Adatkérés	Befejezése
Please rewrite the following sentence in a more concise manner --- SENTENCE: Lucy is a mother of two, who lives in Chicago with her husband and two children, and practices law at Junior & Co. --- New sentence: “	Lucy, a mother of two living in Chicago with her husband and children, practices law at Junior & Co

Kimeneti struktúra megadása

A kimenet szerkezetének megadására vonatkozó kérés használata jelentős hatással lehet az eredmények jellegére és minőségére. Néha előfordulhat, hogy a metaüzenetek, például a "csak igaz tények írása" vagy az "információk nem készítése" nem megfelelő megoldás. Ehelyett, ha arra kéri a modell válaszát, hogy idézeteket is tartalmazzon, segíthet csökkenteni a helytelen válaszok előfordulását.

Ha például arra kényszeríti az LLM-et, hogy idézzen a forrásanyagra, amikor állításokat tesz, ezek az utasítások sokkal nagyobb valószínűséggel lesznek megalapozottak. Az idézetek kérése lehetővé teszi, hogy a modellnek minden alkalommal két hibát kell végrehajtania, amikor választ hoz létre: az első hiba a kitalált válasz, a második pedig a rossz idézet. Vegye figyelembe, hogy minél közelebb van az idézet az általa támogatott szöveghez, annál rövidebb távolságra van az LLM-nek az idézet előtt, ami arra utal, hogy a beágyazott idézetek jobban enyhítik a hamis tartalom létrehozását, mint a tartalom végén lévő idézetek.

Hasonlóképpen, ha arra kéri a modellt, hogy kinyerje a ténybeli állításokat egy bekezdésből, az olyan összetett utasításokat nyerhet ki, mint például az "X Y ÉS Z" (ami nehezebben ellenőrizhető), amely elkerülhető egy kimeneti struktúra megadásával, például (entity1, relationship, entity2).

Példa részletei	Adatkérés	Befejezése
Example showing use of citations:	List down the different behaviors exhibited by the Customer Support agent in the following conversation. --- hi thank you for calling contoso pharmacy who am i speaking with today i understand your frustration mary um can you tell me what exactly you're trying to accomplish OK uh certainly happy to check that for you one moment please i see here that you were on a generic form of lipitor is that right OK uh so i see that your doctor stopped prescribing these drugs in twenty twenty one actually OK uh yeah i'd be happy to check that for you uh because sometimes there's a gap in the system and it just doesn't get reported so let me take a look here just a moment so i'm seeing here that your doctor had these drugs prescribed to you from twenty twelve through twenty twenty one OK um yeah according to the latest records uh provided by doctor's office you're now on a different drug metformin would you like us to go ahead and fill that prescription for you for pick up a bit of form in five hundred milligrams uh you're very welcome mary please let us know if there's anything else we can do for you today. --- How was the response of the Customer Support agent. Classify and list down their various behaviors and cite the reason behind the classification, using the format BEHAVIOR("reason")	1. Empathetic("understands the customer's frustration") 2. Patient("happy to check that for you one moment please") 3. Knowledgeable("sometimes there's a gap in the system and it just doesn't get reported") 4. Helpful("happy to check that for you") 5. Accommodating("would you like us to go ahead and fill that prescription for you") 6. Courteous("you're very welcome mary")

Példa részletei	Adatkérés	Befejezése
Example of prompt directing model response to fit a defined structure:	Output format: { "TOPIC_NAME": "", "HEADLINES": [], "REASON": "" } Input news headlines: 1. "From books to presentations in 10s with AR + ML" 2. "Demo from 1993 of 32-year-old Yann LeCun showing off the World's first Convolutional Network for Text Recognition" 3. "First Order Motion Model applied to animate paintings" 4. "Robinhood and other brokers literally blocking purchase of $GME, $NOK, $BB, $AMC; allow sells" 5. "United Airlines stock down over 5% premarket trading" 6. "Bitcoin was nearly $20,000 a year ago today" Output:	{"TOPIC_NAME": "Artificial Intelligence and Machine Learning", "HEADLINES": ["From books to presentations in 10s with AR + ML", "Demo from 1993 of 32-year-old Yann LeCun showing off the World's first Convolutional Network for Text Recognition", "First Order Motion Model applied to animate paintings"],"REASONING": "These headlines all contain references to Artificial Intelligence and Machine Learning, such as AR, ML, Convolutional Network, and First Order Motion Model." } {"TOPIC_NAME": "Stock Market", "HEADLINES": ["Robinhood and other brokers literally blocking purchase of $GME, $NOK, $BB, $AMC; allow sells", "United Airlines stock down over 5% premarket trading", "Bitcoin was nearly $20,000 a year ago today"], "REASONING": "These headlines all contain references to the stock market, such as Robinhood, United Airlines, and Bitcoin." }

Hőmérséklet és Top_P paraméterek beállítása

A hőmérsékleti paraméter módosítása lehetővé teszi, hogy a modellek eltérő kockázati szinttel rendelkezzenek. Egy magasabb érték, például a 0,7 véletlenszerűbbé teszi a kimenetet, és eltérőbb válaszokat eredményez. Míg az alacsonyabb érték, mint a 0,2 teszi a kimenetet koncentráltabb és konkrétabb. Egy fiktív történet például magasabb hőmérséklet használatával hozható létre. Míg egy jogi dokumentum létrehozásához ajánlott sokkal alacsonyabb hőmérsékletet használni.

A következő példában két modellválaszt tesztelünk 0,1 és 0,9 különböző hőmérsékleti beállításokkal. Bár a kreatív tartalmak, például az alábbi szövegrészek kiértékelése szubjektív gyakorlat, és a vélemények eltérőek lehetnek, a modell válasza ugyanahhoz a kérdéshez csak a hőmérsékleti paraméter módosításától való eltérés nyilvánvaló.

Utasítás típusa	Adatkérés	Befejezése
Model response for temperature setting 0.1:	Write a product launch email for new AI-powered headphones that are priced at $79.99 and available at Best Buy, Target and Amazon.com. The target audience is tech-savvy music lovers and the tone is friendly and exciting.<br>1. What should be the subject line of the email? 2. What should be the body of the email?	Subject Line: Introducing the AI-Powered Headphones You've Been Waiting For! Dear Tech-Savvy Music Lovers, -We are thrilled to announce the launch of our new AI-powered headphones! These headphones are designed to provide you with the ultimate listening experience, with features like noise cancellation, adjustable sound settings, and more. Our AI-powered headphones are now available at Best Buy, Target, and Amazon.com for just $79.99. With this unbeatable price, you can enjoy the highest quality sound without breaking the bank. Our AI-powered headphones are perfect for anyone who loves music. Whether you're a professional musician or just a casual listener, you'll appreciate the superior sound quality and convenience of these headphones. We know you'll love our AI-powered headphones, so don't wait - get yours today! Sincerely, [Your Company Name]
Model response for temperature setting 0.9:	Write a product launch email for new AI-powered headphones that are priced at $79.99 and available at Best Buy, Target and Amazon.com. The target audience is tech-savvy music lovers and the tone is friendly and exciting. 1. What should be the subject line of the email? 2. What should be the body of the email?	Subject Line: Upgrade your Music Listening Experience with AI-powered Headphones Greetings Tech-savvy Music Lovers! We have some exciting news to share with you – the newest AI-powered headphones are here! Our newest headphones feature advanced AI technology to give you the best sound that you’ve ever heard. They come with a crystal-clear sound, deep bass response and are designed to make your music listening experience enjoyable, no matter what type of music you listen to. What’s more, they are now available at Best Buy, Target and Amazon.com for just $79.99, so you can enjoy the highest sound quality without breaking the bank. But that’s not all! Our headphones are also packed with several other amazing features such as noise-cancellation technology and a hands-free microphone for calls, making them truly unbeatable. So why wait? Upgrade your music listening experience and enjoy the best sound your ears have ever heard. Our AI-powered headphones are now available at Best Buy, Target and Amazon.com, so get yours today! We hope you will enjoy these headphones as much as we do. Happy Listening! The AI-powered Headphones Team

Top_probability egy másik paraméter, és hasonló a hőmérséklethez, mivel a modell válaszának véletlenszerűségét is szabályozza, de ezt más módon teszi. Kísérletezzen különböző modellválaszokkal különböző hőmérséklet és Top_P, de egyszerre nem mindkettővel.

Következő lépések

• További információ az Azure OpenAI-ról.
• Ismerkedés a ChatGPT-modellel a ChatGPT rövid útmutatójával.
• További példákért tekintse meg az Azure OpenAI-minták GitHub-adattárát