Parancssori tervezési technikák

Az OpenAI GPT-3, GPT-3.5, GPT-4 és GPT-4o modelljei parancssori alapúak. A parancssor-alapú modellek esetében a felhasználó szöveges üzenetek beírásával kezeli a modellt, amely a szöveg kiegészítésével válaszol. Ezzel a kiegészítéssel a modell a bevitt szöveget folytatja. Ezek a technikák o-sorozatú modellekhez nem ajánlottak.

Bár ezek a modellek rendkívül hatékonyak, a viselkedésük nagyon érzékeny a bevitelre. Emiatt fontos, fejlesztendő képesség a bemenő szöveges üzenet elkészítése.

A gyors építés nehéz lehet. A gyakorlatban a kérés úgy működik, hogy a modell súlyait a kívánt feladat elvégzéséhez konfigurálja, de ez inkább művészet, mint tudomány, gyakran tapasztalatot és intuíciót igényel egy sikeres kérés létrehozásához. A cikk célja, hogy segítséget nyújtsunk a tanulási folyamat megkezdéséhez. Megkísérli rögzíteni az összes GPT-modellre vonatkozó általános fogalmakat és mintákat. Fontos azonban tisztában lenni azzal, hogy minden modell eltérően viselkedik, ezért előfordulhat, hogy a tanulás nem minden modellre egyformán érvényes.

Alapvető beállítások

Ez a szakasz a GPT-kérések alapfogalmait és elemeit ismerteti.

A szöveges kérdések azt jelzik, hogy a felhasználók hogyan használják a GPT-modelleket. Az összes generatív nyelvi modellhez hasonlóan a GPT-modellek is megpróbálják létrehozni a következő szavak sorozatát, amelyek valószínűleg az előző szövegből származnak. Mintha azt mondjuk, mi az első dolog, ami eszembe jut, amikor azt mondom <prompt>? Az alábbi példák ezt a viselkedést mutatják be. Tekintettel a híres tartalom első szavaira, a modell képes pontosan folytatni a szöveget.

Felszólítás	Teljesítés
Négy pontszám és hét évvel ezelőtt a	apák hoztak létre ezen a kontinensen egy új nemzetet, amely a szabadság eszméjében fogant, és annak az elvnek szentelt, hogy minden ember egyenlőnek születik. […]
"Hívjon Ishmaelnek."	"Néhány évvel ezelőtt – nem is bánom, hogy pontosan mennyi ideig – kevés pénz volt a táskámban, és semmi különös, ami érdekelne a parton, azt hittem, hogy egy kicsit vitorlázok, és látom a vízes részét a világnak." […]

Az összetettebb kérések kialakítása során hasznos, ha ezt az alapvető viselkedést szem előtt tartja. Függetlenül a kapott kéréstől, a modell egyszerűen válaszol arra, amit a legvalószínűbbnek határoz meg (a betanítási adatok és a betanítási célok alapján). Ha kérdést tesz fel a feladatban, a modell nem külön "Q&A" kódsort követ, hanem inkább úgy tűnik, hogy választ ad a kérdésre, mert a válasz a legvalószínűbb válaszforma az adott kérdésre bemenetként.

A prompt összetevői

Ha a Completion API-t használja, miközben nincs különbség a parancssor különböző részei között, akkor is hasznos lehet a tanuláshoz és a vitafórumhoz az alapul szolgáló parancssori összetevők azonosítása érdekében. A Csevegés befejezése API-val a parancssor különböző szakaszait küldi el az API-nak a társított szerepkörökkel rendelkező szótárak tömbje formájában: rendszer, felhasználó és asszisztens. Ez az útmutató általánosabban foglalkozik azzal, hogyan gondolkodhat a gyors építésről ahelyett, hogy az egyik API-ra jellemző, a másikhoz kapcsolódó előíró útmutatást nyújtanánk.

Fontos azt is megérteni, hogy bár lehetnek más érvényes módszerek is a kérések feldarabolására, ennek a lebontásnak a célja, hogy viszonylag egyszerű módot biztosítson arra, hogyan gondolkodhatunk a kérések megalkotásáról. A Completion API-val az összes összetevő nem kötelező, de legalább egynek jelen kell lennie, és a legtöbb kérés több összetevőt is tartalmaz. Az összetevők között szürke terület is lehet. Az alábbi sorrend nagyjából megfelel az egyes összetevők felhasználási módjának, a legtöbbtől a legkevésbé.

Utasítások

Az utasítások valószínűleg a leggyakrabban használt parancssori összetevők. Az utasítások egyszerűen a következők: utasítások a modellhez a teendőkről. Bár a gyakorlatban egyszerűek, a gyakorlatban összetettek lehetnek. Az alábbi táblázat ezt egyszerű és összetettebb utasítások két különböző formában történő megjelenítésével szemlélteti.

Utasítás típusa	Felszólítás	Teljesítés
Egyszerű utasítások	Írjon bevezetőt egy heti hírlevélhez.	Üdvözöljük heti hírlevelünkben. Ezen a héten különös hangsúlyt fektetünk a termelékenységre. Tippeket és trükköket osztunk meg arról, hogyan lehet hatékony az életed minden területén. Reméljük, élvezni, és kérjük, ossza meg barátaival!
Összetett utasítások	Készítsen bevezetőt a Contoso nevű cégem heti hírleveléhez. Meg kell említeni a nagy minden kéz találkozó volt a múlt héten, és köszönöm a csapat minden kemény munkát az elmúlt néhány hónapban.	Üdvözöljük a Contoso heti hírlevelében! A múlt héten volt egy nagyszerű teljeskörű értekezletünk, és szeretném megköszönni a csapatnak a kemény munkát, amit az elmúlt néhány hónapban végeztek. Nagyon várjuk a fényes jövőt, és bízom benne, hogy csapatunk elkötelezettségével és elkötelezettségével nagyszerű dolgokat fogunk elérni. Köszönjük, hogy tagja volt a csapatunknak, és nagyon várom, hogy az elkövetkező hetekben és hónapokban együtt dolgozhassak önökkel. Üdvözlettel, [Az Ön neve].
Összetett utasítások	Írjon bevezetőt egy heti hírlevélhez, az alábbiakat is beleértve: - A cégem neve contoso - Egy ragyogó üdvözlés - Köszönet a csapatnak a kemény munkáért néhány kemény hónap alatt - Pozitív kilátások a következő negyedévre - Az SLT aláírása	Hello Contoso csapat! Meg akartam köszönni az elmúlt hónapok kemény munkáját. Kemény pár hónap volt, de mindannyian összehoztak és csodálatos munkát végeztek. Nagyon büszke vagyok rátok. Előretekintve a következő negyedévre, nagyon pozitívnak érzem magam. Azt hiszem, nagyszerű dolgokat fogunk elérni. Még egyszer köszönöm, a vezető vezető csapat.

Elsődleges tartalom

Az elsődleges tartalom olyan szövegre utal, amelyet a modell feldolgoz vagy átalakít. Az elsődleges tartalmat általában az utasításokhoz kapcsolódóan használják. Egy egyszerű példa a nyelvfordítás. Az alábbi példában az angol szöveg lesz az elsődleges tartalom, míg a "Fordítás franciára:" utasítás.

Felszólítás	Teljesítés
Meg tudja mondani, hogyan jutok el a múzeumba? Fordítás franciára:	Pouvez-vous s'il vous plaît me dire comment aller au musée?

Az elsődleges tartalom is hosszabb lehet. Az alábbi példában az elsődleges tartalom a Wikipedia-bejegyzés bevezető szakasza az idő összetettségéről, amely közel 300 szó hosszú. Ezt a tartalmat rövidítettük a táblázatunkban a könnyű megjelenítés érdekében.

Felszólítás	Teljesítés
A számítástechnikában az idő összetettsége az a számítási összetettség, amely az algoritmus futtatásához szükséges számítógépidőt írja le. Az idő összetettségét általában becsülik meg. Foglalja össze az előző szöveget néhány mondatban:	Az idő összetettsége azt méri, hogy mennyi ideig tart egy algoritmus futtatása. Általában a bemenet méretének függvényeként van kifejezve. A leggyakoribb mérték a legrosszabb esetben az idő összetettsége, amely az adott méretű bemenetekhez szükséges maximális időmennyiség.
A számítástechnikában az idő összetettsége az a számítási összetettség, amely az algoritmus futtatásához szükséges számítógépidőt írja le. Az idő összetettségét általában becsülik meg. TL;DR (Túl hosszú; nem olvastam)	Az algoritmusok időösszetettsége az algoritmus futtatásához szükséges idő. Az idő összetettségét általában az algoritmus által végrehajtott elemi műveletek számának megszámlálásával becsülik meg, feltételezve, hogy minden elemi művelet végrehajtása meghatározott ideig tart. Az idő összetettségét általában a bemenet méretének függvényeként fejezik ki.

A GPT-modellek a strukturált elsődleges tartalmakat is képesek kezelni. Az alábbi példában a belgiumi sörökről szóló TSV (a jelen cikkben való megjelenítéshez rövidítve) a rendszer a kérés részeként továbbítja a modellnek. Képes a tartalom megfelelő értelmezésére és az adatokkal kapcsolatos kérdések megválaszolására.

Felszólítás	Teljesítés
Belgian Beer Brands Beer name Beer style color ABV Brewery "Chimay Gold: ""Doree""" trappist pale ale gold 4.80% Chimay Brewery (official trappist) "Chimay Blue: ""Grande Reserve""" trappist dark ale dark 9.00% […] A fenti táblázatra hivatkozva hány sör kevesebb, mint 6% ABV?	A táblázatban 10 olyan sör van, amely kevesebb, mint 6% ABV.

Példák

A sikeres kérések gyakran az "egy lövéses" vagy a "kevés lövésű" tanulás gyakorlatára támaszkodnak. Ez arra utal, hogy a modell kívánt viselkedésére egy vagy több példát is be kell illeszteni, általában bemeneti és kimeneti párokat is belefoglalva. Ez nem tanulás abban az értelemben, hogy a modell tartósan megváltozik, hanem inkább azt jelenti, hogy a példák jobban feltételesen beállítják a modellt, hogy a kívánt módon reagáljon csak az éppen aktuális előrejelzésre. A példák nélküli kérések használatát néha "nulla lövésű" tanulásnak is nevezik. Vegye figyelembe, hogy a Csevegés befejezése API-val a rendszer általában néhány képből álló tanulási példákat ad hozzá az üzenettömbhöz, például felhasználói/asszisztensi interakciók formájában a kezdeti rendszerüzenet után.

Tanulási típus	Felszólítás	Teljesítés
Nulla lövés	Címsor: Az edző magabiztos, hogy a sérülés nem fogja kisiklatni a Warriorst. Témakör:	Az edző biztos benne, hogy a sérülés nem fogja kisiklatni a Warriors szezonját. A csapat továbbra is a céljaikra összpontosít, és továbbra is keményen dolgoznak a célok elérése érdekében.
Kevés lövés	Címsor: A Twins játékosa, Correa kilépési opcióját használja, és szabadügynökként teszteli a piacot. Témakör: Baseball Címsor: Kijózanító zónák lesznek a Katari világbajnokságon Témakör: Foci Címsor: Yates: Információk a fantasy futballról a 6. hétre Témakör: Labdarúgás Címsor: Az edző magabiztos, hogy a sérülés nem fogja kisiklatni a Warriorst. Témakör:	Kosárlabda

A fenti példa a kevés lövéses tanulás hasznosságát szemlélteti. A példák nélkül úgy tűnik, hogy a modell kitalálja a kívánt viselkedést, míg a példák tisztán mutatják a modell működését. Ez a modell erejét is szemlélteti, és arra is következtethet, hogy milyen címkekategóriát szeretne használni, még akkor is, ha a példákban nem szerepel "kosárlabda" címke.

Dákó

A jelzések a modell kimenetének „indítóimpulzusaként” működnek, amelyek segítenek a modellt a kívánt kimenetre irányítani. Ez gyakran egy előtag, amelyre a modell építhet. Az alábbi példában bemutatjuk azt a jelzést, amely a történet fő elemeinek belefoglalását irányítja. A jeleket gyakran használják az utasítások mellett, de nem mindig. Az alábbi példákban a modell egy hosszú bejelentési e-mail összegzésére szolgál. Az egyik esetben egy jelzést használnak a modell kimenetének fókuszálására, míg a másik esetben egy adott kimeneti formátumra (felsoroláspontok) tesznek javaslatot.

A Chat Completion API kontextusában az utasítások a rendszerüzenet formájában jelennek meg, és néhány példa interakció a felhasználó/asszisztens között segíti a modell előkészítését.

Jelzések száma	Felszólítás	Teljesítés
0	A teljesítményértékelések a Contoso teljesítmény- és fejlesztési megközelítésének alapvető összetevői. […] A fenti e-mail összegzése:	Ennek az e-mailnek az a célja, hogy tájékoztassa az alkalmazottakat a teljesítményértékelési felület legutóbbi változásairól, ami a Contoso Teljesítmény és fejlesztési megközelítésének része. A módosítások közé tartozik a továbbfejlesztett struktúra, az eszközön belül feljavított felhasználói élmény és a célzott kérések. Emellett már elérhető egy választható Beszélgetésindítók szakasz is, amellyel az alkalmazottak megjelölhetik a vezetőkkel megbeszélni kívánt témaköröket.
1	A teljesítményértékelések a Contoso teljesítmény- és fejlesztési megközelítésének alapvető összetevői. […] A fenti e-mail összegzése: Az üzenet legfontosabb eleme a következő:	hogy a Contoso javítja a teljesítményértékelési élményt azáltal, hogy jobban összpontosít az alapvető prioritásokra, elvárásokra és hatásokra. Emellett tippekkel, erőforrásokkal és útmutatásokkal frissítik az eszközön belüli felhasználói élményt. Végül útmutatást adnak a vállalati szintű alapvető prioritások aktiválásához.
2	A teljesítményértékelések a Contoso teljesítmény- és fejlesztési megközelítésének alapvető összetevői. […] A fenti e-mail összegzése: Kulcsfontosságú pontok: •	A Contoso az alkalmazottak visszajelzései alapján módosítja a teljesítményértékelési élményt. • A változások új fókuszba helyezik az alapvető prioritásokat, elvárásokat és hatásokat; frissített felhasználói élmény; és új útmutatást a vállalati szintű alapvető prioritásokról. • A teljesítményértékelések ideje a múltbeli teljesítmény és a tanulás, valamint a jövőbeli prioritások és növekedési lehetőségek tervezése. • Az alkalmazottaknak és a vezetőknek a teljesítményértékelési értekezlet előtt megjegyzéseket kell írniuk. • Évente legalább két teljesítményértékelésnek kell lennie. • Az egyes felülvizsgálatok időbefektetésének nagyjából azonosnak kell maradnia.

Támogató tartalom

A támogató tartalom olyan információ, amelyet a modell felhasználhat a kimenet valamilyen módon történő befolyásolására. Abban különbözik az elsődleges tartalomtól, hogy nem ez a tevékenység fő célja, de általában az elsődleges tartalommal együtt használják. Ilyenek például a környezetfüggő adatok, az aktuális dátum, a felhasználó neve, a felhasználói beállítások stb. Az alábbi példa támogató tartalommal segíti a felhasználó számára tervezett műhelyek rendszerezését. Támogató (fontos témakörök) nélkül a modell csak felsorolja a workshopokat (csonkolva a megjelenítéshez), de amikor értesül az én fontos témáimról, a modell képes pontosan csoportosítani az értekezleteket.

Támogató tartalom	Felszólítás	Teljesítés
Nélkül	Műhelylista: Cím leírása Tervezési műhelymunka indítása Kérjük, csatlakozzon hozzánk, hogy elindítsuk a műhelymunkát! A vezetőktől a csoportközi prioritásokról és a jövő évi tanulásról hallhat. Már elküldtük a meghívást erre az eseményre mindenkinek a [...] A fenti workshopok összegzése témakör szerint csoportosítva:	Műhelylista: Tervezési workshop megnyitó -Tervezési műhely összegzés - Core MeetUp - Ügyfélvezérelt perspektívák -Hatás és fő fókuszterületek -Ajánlott eljárások -Az alkalmazás bevezetésének felgyorsítása [...]
Valamivel	Műhelylista: Cím leírása Tervezési műhelymunka indítása Kérjük, csatlakozzon hozzánk, hogy elindítsuk a műhelymunkát! A vezetőktől a csoportközi prioritásokról és a jövő évi tanulásról hallhat. Már elküldtük a meghívást erre az eseményre mindenkinek a [...] Fontos témakörök: parancssori tervezés, keresés, GPT-modellek Összegezze a fenti workshopokat, a fontos témakörök szerint csoportosítva:	1. Parancssori tervezés: – Új gyorstervezési tippek - A gyors tervezés művészete 2. Keresés: -Bevezetés a vektorkeresésbe beágyazással 3. GPT-modellek: - Bevezetés a GPT-4-be - GPT-35-Turbo részletes elemzése.

Forgatókönyv-specifikus útmutató

Bár a gyorstervezés alapelvei számos különböző modelltípusra általánosíthatók, bizonyos modellek speciális parancssori struktúrát várnak. Az Azure OpenAI GPT-modellek esetében jelenleg két különböző API van, amelyekben a parancssori tervezés kerül előtérbe:

• Csevegés befejezése API.
• Kiegészítő API.

Minden API-hoz eltérően kell formázni a bemeneti adatokat, ami hatással van az általános parancssori kialakításra. A Chat Completion API támogatja a GPT-35-Turbo és a GPT-4 modelleket. Ezek a modellek úgy vannak kialakítva, hogy egy adott csevegőszerű átiratban formázott bemenetet használjanak, amelyet egy szótártömbben tárolnak.

A Completion API támogatja a régebbi GPT-3 modelleket, és sokkal rugalmasabb bemeneti követelményekkel rendelkezik, mivel meghatározott formázási szabályok nélküli szöveges sztringet igényel.

Az ebben a szakaszban szereplő technikák a nagy nyelvi modellel (LLM) generált válaszok pontosságának és alapozásának növelésére szolgáló stratégiákat tanítják meg. Fontos azonban megjegyezni, hogy még a gyors tervezés hatékony használata esetén is ellenőriznie kell a modellek által generált válaszokat. Csak azért, mert egy gondosan összeállított kérés jól működött egy adott forgatókönyv esetében, nem feltétlenül jelenti azt, hogy általánosabb lesz bizonyos használati esetekre. Az LLM-ek korlátainak megértése ugyanolyan fontos, mint az erősségeik kihasználásának megértése.

Csevegés befejező API-k

Ez az útmutató nem részletezi a csevegések befejezésének üzenetstruktúrája mögötti mechanikát. Ha nem ismeri a Csevegés befejezése modellek programozott módon való használatát, javasoljuk, hogy először olvassa el a Csevegés befejezése API útmutatóját.

Feljegyzés

Az útmutató jelen szakaszában szereplő összes példát egy alapSZINTŰ GPT-4 modellen teszteltük angol nyelven. Egyes technikák eltérő eredményeket hozhatnak az újabb modellek, például a gpt-4o és a gpt 4.5 esetén. Ha a cikk honosított verzióját egy másik nyelven olvassa, ezek a válaszok az angol nyelvű eredmények honosított fordítását jelentik. Ha többet szeretne megtudni a modell kéréséhez használt nyelvtől függő lehetséges korlátozásokról, tekintse meg a Felelős AI átláthatósági megjegyzését.

Néhány példás tanulás

A nyelvi modellek új feladatokhoz való igazításának gyakori módja a kevés lövéses tanulás. A kevés képből álló tanulás során a rendszer betanítási példákat biztosít a modell további kontextusának megadására szolgáló kérés részeként.

A Chat Completions API használatakor a Felhasználó és a Segéd közötti üzenetsorozat (amely az új parancssori formátumban íródott) példaként szolgálhat a kevés képből álló tanuláshoz. Ezek a példák arra használhatók, hogy a modell egy bizonyos módon reagáljon, bizonyos viselkedéseket emuláljon, és válaszokat adjon a gyakori kérdésekre.

Rendszerüzenet

Néhány példa

Az Assistant egy intelligens csevegőrobot, amely segít a felhasználóknak megválaszolni az adóval kapcsolatos kérdéseiket. Előírás - Csak az adókkal kapcsolatos kérdésekre válaszoljon. - Ha nem biztos a válaszban, akkor azt mondhatja, hogy "Nem tudom" vagy "Nem vagyok benne biztos", és azt javasoljuk, hogy a felhasználók lépjenek az IRS webhelyére további információkért.

Felhasználó – "Mikor kell beszednem az adókat?" Assistant - "2023-ban április 18-ig be kell fizetnie az adóját. A dátum a szokásos április 15-i határidő után esik, mivel 2023-ban április 15-én szombatra esik. További részletekért lásd: https://www.irs.gov/filing/individuals/when-to-file " Felhasználó – "Hogyan ellenőrizhetim az adó-visszatérítésem állapotát?" Asszisztens - "Ellenőrizheti az adó-visszatérítés állapotát a látogatással https://www.irs.gov/refunds "

A fenti táblázat az egyszerű parancssori struktúrát ismerteti, de a pontos parancssori formátum részletes ismertetéséhez tekintse meg a csevegés befejezésének útmutatóját.

Nem csevegéshez kapcsolódó forgatókönyvek

Bár a Csevegés befejezése API többfordulós beszélgetésekhez van optimalizálva, nem csevegési forgatókönyvekhez is használható. Hangulatelemzési forgatókönyv esetén például a következő üzenet használható:

Rendszerüzenet	Felhasználó	Segéd
Ön egy asszisztens, aki beszédadatokból származó hangulatelemzésre lett tervezve. A felhasználók szöveges sztringbe illesztik be a szöveget, ön pedig a beszélő válaszának értékelésével válaszol. Ráta 1-10 skálán (10 a legmagasabb). Magyarázza el, miért adták meg ezt a minősítést.	Köszönjük, hogy hívta a Contoso Gyógyszertárat. Kivel beszélek ma? Értem a frusztrációját, Mary. Meg tudná mondani, pontosan mit próbál elérni? Rendben, természetesen szívesen ellenőrzöm ezt az Ön számára, egy pillanat. Látom, hogy egy generikus Lipitort kapott, igaz? Rendben, látom, hogy az orvosa 2021-ben hagyta abba ezeknek a gyógyszereknek a felírását. Igen, szívesen ellenőrzöm ezt az Ön számára, mert néha van egy rés a rendszerben, és nem kerül jelentésre. Hadd nézzem meg itt, egy pillanat. Azt látom, hogy az orvosa 2012-től 2021-ig írta fel Önnek ezeket a gyógyszereket. Rendben, igen, a legfrissebb nyilvántartások szerint az orvosi hivataltól most egy másik gyógyszert, a metformint szedi. Szeretné, ha előre kitöltenénk az 500 mg-os receptet, hogy elvihesse? Nagyon szívesen, Mary. Kérem, jelezze, ha ma még bármit tehetünk Önért.	Hangulatértékelés: 8 A szöveg előadója udvariasnak, segítőkésznek és türelmesnek tűnik, miközben az ügyfél aggodalmait kezeli. Időt vesznek igénybe az információk ellenőrzésére, világos magyarázatok megadására és segítségnyújtásra. Az értékelés azonban nem 10, mert a beszélgetés egyes részeiben még mindig fennáll a bizonytalanság, ami nem feltétlenül ad teljes bizalmat az ügyfélnek.

Kezdés egyértelmű utasításokkal

A sorrend információi megjelennek a kérdésben. Ennek az az oka, hogy a GPT-stílusmodellek olyan módon vannak felépítve, amely meghatározza, hogyan dolgozzák fel a bemenetet. Kutatásunk azt sugallja, hogy ha a modellnek a kérés elején megmondjuk, milyen feladatot szeretnénk, mielőtt további kontextuális információkat vagy példákat osztanánk meg, az segíthet a jobb minőségű eredmények előállításában.

Feljegyzés

Bár a technika követése továbbra is általánosan ajánlott, ellentétben a korábbi modellverziókkal (GPT-3 és korábbi verziók), a tesztelésünk azt mutatta, hogy a ChatGPT és a GPT-4 modellek modellre adott válasza ugyanaz volt, függetlenül attól, hogy a technikát használják-e. Az alábbi példa esetében azt látjuk, hogy a "Több forrás ... "kitörés" a parancssor elején vagy végén nem okozott változást a végső modell válaszában.

Rendszerüzenet	Felhasználó	Segéd
Ön egy AI-asszisztens, amely segít a felhasználóknak az információk megtalálásában.	Az Ön feladata annak ellenőrzése, hogy a következő kódrészletekből származó idézet támogatja-e a "Több forrás említi egy másik nagy kitörés esélyét" állítást. --- TÖREDÉK [1] A szakértők szerint 14 százalék az esélye annak, hogy egy mega földrengés eléri Seattle-t. SEATTLE - Az Amerikai Földtani Szolgálat becslései szerint 14 százalék esély van rá, hogy egy 9-es erősségű Cascadia földrengés érinti Seattle-t a következő 50 évben. "Sajnos nem tudunk... [2] A földrengésszakértők bemutatják a seattle-i "Really Big One" legújabb kilátásait. "Azt mondjuk, hogy körülbelül 14% az esélye annak, hogy egy másik megközelítőleg 9-es erősségű földrengés következik be a következő 50 évben," mondta egy geofizikus a Washingtoni Egyetemen ... --- Van-e a "Több forrás említi, hogy van esély egy másik nagy kitörésre" állítás közvetlenül kimondva vagy sugallják-e a szövegrészletek?	Nem, az állítást nem közvetlenül tartalmazzák vagy mondják ki a részletek. A részletek említik egy "megaföldrengés" és egy "magnitúdó 9 Cascadia földrengés" esélyét, amely Seattle-t érheti a következő 50 évben, de nem említik egy újabb jelentős kitörés esélyét.

Utasítások ismétlése a végén

A modellek érzékenyek lehetnek a recency elfogultságára, ami ebben az összefüggésben azt jelenti, hogy a parancssor végén lévő információk nagyobb hatással lehetnek a kimenetre, mint a parancssor elején lévő információkra. Ezért érdemes kísérletezni az utasítások megismétlésével és a generált válaszra gyakorolt hatás kiértékelésével.

Készítse elő a kimenetet

Ez azt jelenti, néhány szót vagy kifejezést hozzáadunk a kérés végéhez, hogy a modellválasz a kívánt formátumú legyen. Például a “Here’s a bulleted list of key points:\n- ” használata segíthet abban, hogy a kimenet pontok listájaként legyen formázva.

Rendszerüzenet	Felhasználó	Segéd
Ön egy AI-asszisztens, amely segít a felhasználóknak az információk megtalálásában. A lehető legkevesebb szóval válaszoljon.	John Smith felesége Lucy Smith. Öt gyerekük van, és szoftvermérnökként dolgozik a Microsoftnál. Milyen keresési lekérdezéseket kell tennem a tényellenőrzéshez? ## Az egyik lehetséges keresési lekérdezés a következő:	"John Smith feleségül vette Lucy Smith öt gyerek szoftvermérnök Microsoft"

A fenti parancssorban az "Egy lehetséges keresési lekérdezés" szöveg a következő: egyetlen kimenet létrehozásához prímozza a modellt. E nélkül a modell több keresési lekérdezést hoz létre kimenetként.

Üres szintaxis hozzáadása

Ha világos szintaxist használ a parancssorhoz – beleértve az írásjeleket, a címsorokat és a szakaszjelölőket – segít kommunikálni a szándékkal, és gyakran megkönnyíti a kimenetek elemzését.

Az alábbi példában elválasztókat (--- ebben az esetben) adnak hozzá a különböző információforrások vagy lépések között. Ez lehetővé teszi a termelés leállási --- feltételeként való használatot. Emellett a szakaszfejléceket vagy a speciális változókat nagybetűvel is meg lehet különböztetni.

Rendszerüzenet	Felhasználó	Segéd
Ön egy AI-asszisztens, amely segít a felhasználóknak az információk megtalálásában.	Elolvas egy bekezdést, majd lekérdezéseket ad ki egy keresőmotornak annak tényellenőrzéséhez. Magyarázza el a lekérdezéseket is. --- BEKEZDÉS John Smith felesége Lucy Smith. Öt gyerekük van, és szoftvermérnökként dolgozik a Microsoftnál. Milyen keresési lekérdezéseket kell tennem a tényellenőrzéshez? --- LEKÉRDEZÉSEK	1. "John Smith Microsoft" – Annak ellenőrzése, hogy John Smith valóban a Microsoftnál dolgozik-e. 2. "John Smith Lucy Smith" - Annak ellenőrzésére, hogy John Smith házas-e Lucy Smith-tel. 3. "John Smith gyerekek" - Annak ellenőrzésére, hogy John Smith öt gyermek.

Ha nem biztos abban, hogy milyen szintaxist használjon, fontolja meg a Markdown vagy az XML használatát. A modelleket nagy mennyiségű webes tartalomra képezték be XML-ben és Markdownban, ami jobb eredményeket biztosíthat.

A feladat lebontása

A nagy nyelvi modellek (LLM-ek) gyakran jobban teljesítenek, ha a feladat kisebb lépésekre van lebontva. A korábban hivatkozott keresési lekérdezési parancssorban például a parancssor átstrukturáltható, hogy a modell először a releváns tények kinyerésére legyen utasítva, majd arra utasítsa, hogy hozzon létre keresési lekérdezéseket, amelyek felhasználhatók a tények ellenőrzésére.

Rendszerüzenet	Felhasználó	Segéd
Ön egy AI-asszisztens, amely segít a felhasználóknak az információk megtalálásában.	Elolvas egy bekezdést, majd lekérdezéseket ad ki egy keresőmotornak annak tényellenőrzéséhez. --- BEKEZDÉS John Smith felesége Lucy Smith. Öt gyerekük van, és szoftvermérnökként dolgozik a Microsoftnál. Milyen keresési lekérdezéseket kell tennem a tényellenőrzéshez? --- Most kinyerheti a tényszerű jogcímeket, és lekérdezéseket bocsáthat ki a tényellenőrzéshez. Lekérdezés kiadásakor használja a SEARCH("query") függvényt. TÉNYBELI ÁLLÍTÁSOK	1. John Smith házas Lucy Smith-szel 2. Öt gyerekük van 3. Szoftvermérnökként dolgozik a Microsoftnál LEKÉRDEZÉSEK SEARCH("John Smith feleségül vette Lucy Smitht") SEARCH("John Smith család mérete") SEARCH("John Smith Microsoft szoftvermérnök")

Figyelje meg, hogy a szakaszok megkülönböztetéséhez és a kimenet prímához használ egyértelmű szintaxist. Ebben az egyszerű példában a feladat egy-két lépésre bontása nem túl drámai, de ha ezt egy nagyobb, sok tényszerű állítással rendelkező szövegre próbálja megtenni, a feladat lebontása jelentős különbséget tehet.

A megfizethetőség használata

Néha előfordulhat, hogy a modell egy megfizethetőség használatára van képes ahelyett, hogy a saját paramétereire támaszkodnánk az információkhoz és a válaszokhoz. A keresés például eszköz lehet a kitalált válaszok csökkentésére és a naprakész információk beszerzésére.

A funkció használatának egyik egyszerű módja, ha leállítja a generálást, amint a modell létrehozza a funkcióhívásokat, majd illessze be az eredményeket az utasításba. Az alábbiakban egy példa látható arra, hogy mi lehet az utánkövetési hívás a fenti SEARCH-hívások után. Figyelje meg, hogyan illesztettük be a keresési eredményeket a parancssorba, és hogyan cseréltük le az előző KERESÉSI hívásokat.

Rendszerüzenet	Felhasználó	Segéd
Ön egy AI-asszisztens, amely segít a felhasználóknak az információk megtalálásában.	Elolvas egy bekezdést, kinyeri a tényszerű jogcímeket, majd a keresőmotor eredményeivel ellenőrzi őket. --- BEKEZDÉS John Smith felesége Lucy Smith. Öt gyerekük van, és szoftvermérnökként dolgozik a Microsoftnál. Milyen keresési lekérdezéseket kell tennem a tényellenőrzéshez? --- TÉNYBELI ÁLLÍTÁSOK - John Smith felesége Lucy Smith - Johnnak és Lucynak öt gyereke van - John szoftvermérnökként dolgozik a Microsoftnál --- Az alábbiakban különböző keresési lekérdezéseket bocsátunk ki a fenti jogcímek kutatásához: KERESÉSI LEKÉRDEZÉSEK - John Smith házas Lucy Smith-szel - John Smith gyermekek száma - John Smith szoftvermérnök Microsoft --- Íme a keresési eredmények kódrészletei: TÖREDÉK: [1] John Smith esküvője 2012. szeptember 25-én volt... [2] John Smitht felesége, Lucy kísérte egy buliba [3]Jánost két lánya és három fia kísérte el a focimeccsre. [4] Miután 10 évet töltött a Microsoftnál, Smith megalapította saját startupját, a Tailspin Toyst [5] John M a városi kovács, és feleségül vette Fionát. Van egy Lucy nevű lányuk. --- A kódrészletek figyelembe véveével ellenőrizze a fenti ténybeli állításokat:	- John Smith felesége Lucy Smith: Megerősítette. Snippet [1] és [2] is említi, hogy John Smith felesége Lucy. - Johnnak és Lucynak öt gyereke van: megerősítve. A kódrészlet [3] megemlíti, hogy Jánost két lánya és három fia kísérte. - John szoftvermérnökként dolgozik a Microsoftnál: részben megerősítették. A kódrészlet [4] megemlíti, hogy John 10 évet töltött a Microsoftnál, de nem kifejezetten azt mondja, hogy jelenleg ott dolgozik. További kutatásokra lehet szükség, hogy megerősítse jelenlegi foglalkoztatási állapotát.

Gondolati láncolat ösztönzése

Ez a feladat lebontásának technikája egy változata. Ahelyett, hogy kisebb lépésekre osztanak fel egy feladatot, ebben a megközelítésben a modell válasza arra utasítja, hogy lépésről lépésre haladjon, és mutassa be az összes részt. Ez csökkenti az eredmények pontatlanságának lehetőségét, és megkönnyíti a modell válaszának értékelését.

Rendszerüzenet	Felhasználó	Segéd
Ön egy AI-asszisztens, amely segít a felhasználóknak az információk megtalálásában.	Ki volt a legjobban kitüntetett (maximális érmek) egyéni sportoló a Sydney-ben tartott olimpiai játékokon? A válaszban lépésről lépésre haladva hivatkozzon a forrásokra, és adjon meg érvelést, mielőtt megosztaná a végső választ az alábbi formátumban: VÁLASZ: <name>	1. lépés: Határozza meg a sydney-i olimpiai játékok évét. A Sydney-i olimpiai játékokat 2000-ben rendezték. 2. lépés: Keresse meg azoknak az egyéni sportolóknak a listáját, akik több érmet nyertek a 2000-ben sydney-i olimpián. Az olimpiai játékok hivatalos honlapja szerint több egyéni sportoló volt, akik több érmet nyertek a 2000-es Sydney-i Olimpiákon. Néhány figyelemre méltó név: • Ian Thorpe (Ausztrália) - 3 arany, 2 ezüst, 0 bronz • Pieter van den Hoogenband (Hollandia) - 2 arany, 0 ezüst, 2 bronz • Lenny Krayzelburg (USA) - 3 arany, 0 ezüst, 0 bronz • Inge de Bruijn (Hollandia) - 3 arany, 1 ezüst, 0 bronz 3. lépés: Határozza meg a legtöbb érmet tartalmazó sportolót. Miután áttekintettük az egyes sportolók listáját, akik több érmet nyertek a 2000-ben sydneyi olimpián, láthatjuk, hogy a legtöbb éremmel rendelkező sportoló az ausztráliai Ian Thorpe, aki összesen 5 érmet nyert (3 arany és 2 ezüst). Ezért a VÁLASZ: Ian Thorpe.

A kimeneti struktúra megadása

A kimenet szerkezetének megadására vonatkozó kérés használata jelentős hatással lehet az eredmények jellegére és minőségére. Néha előfordulhat, hogy olyan rendszerüzenetek, mint "csak valódi tényeket írj" vagy "ne készíts hamis információt" nem jelentenek megfelelő megoldásokat. Ehelyett, ha arra kéri a modell válaszát, hogy idézeteket is tartalmazzon, segíthet csökkenteni a helytelen válaszok előfordulását.

Ha arra utasítja a modellt, hogy idézzen a forrásanyagra, amikor állításokat tesz, ezek az állítások sokkal megalapozottabbak lesznek. Az idézetek lekérése miatt a modellnek minden alkalommal két hibát kell végrehajtania, amikor választ hoz létre: az első hiba a létrehozott válasz, a második pedig a rossz idézet. Vegye figyelembe, hogy minél közelebb van az idézet az általa támogatott szöveghez, annál rövidebb a modell előtt álló távolság, hogy előre jelezze az idézetet, ami arra utal, hogy a beágyazott idézetek jobb megoldásokat jelentenek a hamis tartalom előállításához, mint a tartalom végén lévő idézetek.

Hasonlóképpen, ha arra kéri a modellt, hogy vonja ki a ténybeli állításokat egy bekezdésből, akkor olyan összetett állításokat is kinyerhet, mint például „X Y-t és Z-t csinál” (amelyek nehezebben ellenőrizhetők). Ez elkerülhető egy olyan kimeneti struktúra megadásával, mint például (entity1, relationship, entity2).

Az alábbi példák az idézetek használatát mutatják be, és a modell válaszát egy meghatározott struktúrához igazítják.

Rendszerüzenet	Felhasználó	Segéd
Ön egy AI-asszisztens, amely segít a felhasználóknak az információk megtalálásában	Sorolja fel az ügyfélszolgálati ügynök által az alábbi beszélgetésben bemutatott különböző viselkedéseket. --- Köszönjük, hogy hívta a Contoso Gyógyszertárat. Kivel beszélek ma? Értem a frusztrációját, Mary. Meg tudná mondani, pontosan mit próbál elérni? Rendben, természetesen szívesen ellenőrzöm ezt az Ön számára, egy pillanat. Látom, hogy egy generikus Lipitort kapott, igaz? Rendben, látom, hogy az orvosa 2021-ben hagyta abba ezeknek a gyógyszereknek a felírását. Igen, szívesen ellenőrzöm ezt az Ön számára, mert néha van egy rés a rendszerben, és nem kerül jelentésre. Hadd nézzem meg itt, egy pillanat. Azt látom, hogy az orvosa 2012-től 2021-ig írta fel Önnek ezeket a gyógyszereket. Rendben, igen, a legfrissebb nyilvántartások szerint az orvosi hivataltól most egy másik gyógyszert, a metformint szedi. Szeretné, ha előre kitöltenénk az 500 mg-os receptet, hogy elvihesse? Nagyon szívesen, Mary. Kérem, jelezze, ha ma még bármit tehetünk Önért. --- Milyen volt az ügyfélszolgálati ügynök válasza? Sorolja fel a különböző viselkedéseket, és adja meg a besorolás okát, használva a BEHAVIOR("reason") formátumot.	1. Udvarias üdvözlés VISELKEDÉS("Az ügynök udvarias üdvözléssel kezdi a beszélgetést, és kéri a hívó nevét") 2. Empatikus VISELKEDÉS("Az ügynök elismeri Mary frusztrációját, és megpróbálja megérteni az aggodalmait") 3. Figyelmes VISELKEDÉS("Az ügynök figyeli az ügyfél problémáját, és további részleteket kér") 4. Proaktív VISELKEDÉS("Az ügynök felajánlja a probléma ellenőrzését az ügyfél számára") 5. Informatív VISELKEDÉS("Az ügynök az ügyfél rendelési előzményeiről nyújt releváns információkat") 6. Alapos VISELKEDÉS("Az ügynök ellenőrzi a rendszer esetleges hiányosságait, és teljes választ ad") 7. Megerősítő VISELKEDÉS("Az ügynök megerősíti a jelenlegi gyógyszert az ügyféllel") 8. Megoldásorientált VISELKEDÉS("Az ügynök felajánlja, hogy kitölti az új receptet az ügyfél számára") 9. Udvarias VISELKEDÉS("Az ügynök köszönöm az ügyfelet, és további segítséget nyújt, ha szükséges")

Rendszerüzenet	Felhasználó	Segéd
Ön egy AI-asszisztens, amely segít a felhasználóknak az információk megtalálásában.	Csoportosítsa a következő hírcímeket témakörkategóriákba a szövegben látható minták alapján. Említse meg a kategóriák definiálásának indokát is. Kimeneti formátum: { "TOPIC_NAME": "", CÍMSOROK: [] "ÉRVELÉS": "" } Hírcímek bevitele: 1. "A könyvekből prezentációk 10 másodperc alatt az AR + ML segítségével." 2. "A 32 éves Yann LeCun 1993-as demója, amely bemutatja a világ első konvolúciós hálózatát szövegfelismerésre" 3. "Elsőrendű mozgásmodell alkalmazása festmények animálására" 4. "A Robinhood és más közvetítők szó szerint blokkolják a(z) $GME, $NOK, $BB, $AMC részvények vásárlását, az eladást engedélyezik." 5. "A United Airlines részvényei több mint 5%-ot estek a piacnyitás előtti kereskedésben" Hozam:	{ "MESTERSÉGES_INTELLIGENCIA": { "CÍMSOROK": [ A könyvekből előadások pár másodperc alatt az AR és ML segítségével "A 32 éves Yann LeCun 1993-as bemutatója, amely a világ első konvolúciós hálózatát mutatja be a szövegfelismeréshez", "Elsőrendű mozgásmodell alkalmazása festmények animálására" ], "ÉRVELÉS": "Ezek a főcímek a mesterséges intelligenciával, a gépi tanulással és azok különböző területeken történő alkalmazásával kapcsolatosak." }, "PÉNZÜGYI_PIACOK": { "CÍMSOROK": [ "Robinhood és más közvetítők szó szerint blokkolja vásárlása $GME, $NOK, $BB, $AMC; értékesítés engedélyezése", "A United Airlines részvényei több mint 5%-os előpiacon kereskednek", "A Bitcoin közel 20 000 dollár volt egy évvel ezelőtt ma" ], "ÉRVELÉS": "Ezek a főcímek pénzügyi piacokhoz, részvényekhez, kriptovalutákhoz és kereskedési platformokhoz kapcsolódnak." } }

Hőmérséklet és Top_p paraméterek

A hőmérsékleti paraméter módosítása megváltoztatja a modell kimenetét. A hőmérsékleti paraméter 0 és 2 között állítható be. Egy magasabb érték, például a 0,7 véletlenszerűbbé teszi a kimenetet, és eltérő válaszokat eredményez, míg alacsonyabb értéket, például. 0.2, a kimenet koncentráltabbá és konkrétabbá válik. Egy fiktív történet magasabb hőmérséklet használatával hozható létre. Míg egy jogi dokumentum létrehozásához ajánlott sokkal alacsonyabb hőmérsékletet használni. Top_probability egy másik paraméter, és hasonló a Hőmérséklethez, mivel a modell válaszának véletlenszerűségét is szabályozza, de ezt más módon teszi. Az általános javaslat az, hogy a két paraméter egyikét egyszerre módosítsa, nem mindkettőt.

Földelési környezet biztosítása

A megbízható válaszok egyik leghatékonyabb módja, ha a modellnek adatokat adunk, amelyekből a válaszainak meríthet (alapadatok). Ha a használati eset naprakész, megbízható információkra támaszkodik, és nem csupán kreatív forgatókönyv, javasoljuk, hogy adjon meg alapadatokat. Általában minél közelebb kerül a forrásanyag a kívánt válasz végső formájához, annál kevesebb munkát kell elvégeznie a modellnek, ami azt jelenti, hogy kevesebb a hibalehetőség. Íme egy példa, ahol a rendszer egy nemrégiben megjelent blogban ismerteti a GPT-4 elindítását az Azure OpenAI-ban az Azure AI Foundry Modelsben, és kérte, hogy nevezze el néhány korai ügyfelet.

Rendszerüzenet	Felhasználó	Segéd
Ön egy AI-asszisztens, amely segít a felhasználóknak az információk megtalálásában. A válaszokat kizárólag az alábbi szövegből fogja megadni, és legfeljebb 100 szóban válaszol: "A Microsoftnál folyamatosan új módszereket fedezünk fel a kreativitás felszabadítására, a termelékenység felszabadítására és a készségek szintre emelésére, hogy többen kihasználhassák az AI használatát. Ez lehetővé teszi ügyfeleink számára, hogy ... … ezáltal csökken annak a valószínűsége, hogy a modell káros választ ad." 1 Válasz legfeljebb 100 szóban. Használjon felsorolásokat, ahol csak lehetséges.	Kik az Azure OpenAI GPT-4 modellek korai ügyfelei?	Az Azure OpenAI GPT-4 modellek néhány korai ügyfele: - Epic Healthcare: Azt tervezik, hogy a GPT-4 segítségével kevesebb időt kelljen az orvosoknak és nővéreknek adatbevitellel és vizsgálatokkal tölteniük. - Coursera: Az Azure OpenAI és a GPT-4 használatával hoznak létre új AI-alapú tanulási élményt a platformjukon. - Coca-Cola: Az Azure OpenAI használatával fejlesztenek egy tudásközpontot, és a GPT-4 multimodális képességeinek kihasználását tervezik marketing, reklám, public relations és ügyfélkapcsolatok terén. – Más, különböző méretű vállalatok az Azure AI használatával fejlesztik az ügyfélélményt, összegzik a hosszú formátumú tartalmakat, segítenek szoftvereket írni, és a megfelelő adózási adatok előrejelzésével csökkentik a kockázatokat.

¹ Az Azure OpenAI GPT-4 indítási blogjának szövege.

Befejezési API-k

Feljegyzés

Az útmutató jelen szakaszában szereplő összes példát angol nyelven teszteltük a gpt-35-turbo-instruct modellel. Ha a cikk honosított verzióját egy másik nyelven olvassa, ezek a válaszok az angol nyelvű eredmények honosított fordítását jelentik. Ha többet szeretne megtudni a modell kéréséhez használt nyelvtől függő lehetséges korlátozásokról, tekintse meg a Felelős AI átláthatósági megjegyzését.

Kezdés egyértelmű utasításokkal

A rendszer hozzáadja a sorrendinformációkat a kérdéshez. Kutatásunk azt sugallja, hogy ha a modellnek a kérés elején megmondjuk, milyen feladatot szeretnénk, mielőtt további kontextuális információkat vagy példákat osztanánk meg, az segíthet a jobb minőségű eredmények előállításában.

Az alábbi első példában az utasítások egy kulcsfontosságú része csak a végén lesz megosztva, és az eredményül kapott befejezés helytelen.

Felszólítás

Teljesítés

Your task is to verify if a statement is supported by a specific quote from the following set of snippets. --- SNIPPETS [1] 14 percent chance of megaquake hitting Seattle, experts say SEATTLE - There's a 14 percent chance of a magnitude 9 Cascadia earthquake hitting Seattle in the next 50 years, the U.S. Geological Survey estimates. "Unfortunately, we are unable to... [2] Earthquake experts lay out latest outlook for Seattle's 'Really Big One’ “We say that there's approximately a 14% chance of another approximately magnitude-9 earthquake occurring in the next 50 years,” said a geophysicist at the University of Washington...

Yes, the statement is directly implied by the snippets.

Ebben a következő példában pontosan azt az állítást adjuk meg, amelyet ellenőrizni szeretnénk ("Több forrás megemlíti az újabb kitörés esélyét"), mielőtt megadnánk a kódrészlet kontextusát. Ez lehetővé teszi, hogy a kódrészletekből kinyert token reprezentációk az ellenőrzött állításhoz legyenek igazítva. Most az eredményként kapott modell válasza pontos:

Felszólítás

Teljesítés

Your task is to verify if the statement "Several sources mention a chance of another large eruption" is supported by a specific quote from the following set of snippets. --- SNIPPETS [1] 14 percent chance of megaquake hitting Seattle, experts say SEATTLE - There's a 14 percent chance of a magnitude 9 Cascadia earthquake hitting Seattle in the next 50 years, the U.S. Geological Survey estimates. "Unfortunately, we are unable to... [2] Earthquake experts lay out latest outlook for Seattle's 'Really Big One’<br>“We say that there's approximately a 14% chance of another approximately magnitude-9 earthquake occurring in the next 50 years,” said a geophysicist at the University of Washington... --- **Is the statement "Several sources mention a chance of another large eruption" directly implied or stated by the snippets?**

No, the statement is not directly implied or stated by the snippets. The snippets mention a chance of a "megaquake" and a "magnitude 9 Cascadia earthquake" hitting Seattle in the next 50 years, but do not mention a chance of another large eruption.

Ismételje meg az utasításokat a végén

A modellek érzékenyek lehetnek a recency elfogultságára, ami azt jelenti, hogy a parancssor végén lévő információk nagyobb hatással lehetnek a kimenetre, mint a parancssor elején lévő információkra. Ezért érdemes kísérletezni azzal, hogy az utasításokat a kérdés végén ismételjük meg, és így értékelni a használati esetre gyakorolt hatást.

A korábbi példában láttuk, hogy az utasítás megismétlése a parancssor elején és végén nagyobb valószínűséggel kap pontos modellválaszt.

Készítse elő a kimenetet

Ez azt jelenti, néhány szót vagy kifejezést hozzáadunk a kérés végéhez, hogy a modellválasz a kívánt formátumú legyen. Például a “Here’s a bulleted list of key points:\n- ” használata segíthet abban, hogy a kimenet pontok listájaként legyen formázva.

Felszólítás	Teljesítés
John Smith is married to Lucy Smith. They have five kids, and he works as a software engineer at Microsoft. What search queries should I do to fact-check this? ## One possible search query is:	"John Smith Microsoft software engineer" Another possible search query is: "Lucy Smith married to John Smith" A third possible search query is: "John Smith family size".

A fenti parancssorban az "Egy lehetséges keresési lekérdezés:" szöveg prímozza a modellt, hogy keresési lekérdezés formájában készítsen kimenetet. Ez a technika segíthet eltávolítani a modell által általánosan hozzáadott enyhítő kifejezéseket, például "Az egyik lehetőség...".

Üres szintaxis hozzáadása

Ha világos szintaxist használ a parancssorhoz – beleértve az írásjeleket, a címsorokat és a szakaszjelölőket – segít kommunikálni a szándékkal, és gyakran megkönnyíti a kimenetek elemzését.

Az alábbi példában elválasztókat (--- ebben az esetben) adnak hozzá a különböző információforrások vagy lépések között. Ez lehetővé teszi a termelés leállási --- feltételeként való használatot. Emellett a szakaszfejléceket vagy a speciális változókat nagybetűvel is meg lehet különböztetni.

Felszólítás	Teljesítés
You will read a paragraph, and then issue queries to a search engine in order to fact-check it. Also explain the queries. --- PARAGRAPH John Smith is married to Lucy Smith. They have five kids, and he works as a software engineer at Microsoft. What search queries should I do to fact-check this? --- QUERIES	1. "John Smith Microsoft" - To check if John Smith is indeed employed at Microsoft. 2. "John Smith Lucy Smith" - To check if John Smith is married to Lucy Smith. 3. "John Smith children" - To check if John Smith has five children.

Ha nem biztos benne, hogy milyen szintaxist használjon, fontolja meg a Markdown vagy az XML használatát, mivel a nagy nyelvi modelleket sok webes tartalomra képezték be XML-ben vagy markdownban.

A feladat lebontása

A modellek gyakran jobban teljesítenek, ha a feladat kisebb lépésekre van bontva. A korábban hivatkozott keresési lekérdezési parancssorban például a parancssor átstrukturáltható, hogy a modell először a releváns tények kinyerésére legyen utasítva, majd arra utasítsa, hogy hozzon létre keresési lekérdezéseket, amelyek felhasználhatók a tények ellenőrzésére.

Felszólítás

Teljesítés

You will read a paragraph, and then issue queries to a search engine in order to fact-check it. --- PARAGRAPH John Smith is married to Lucy Smith. They have five kids, and works as a software engineer at Microsoft. What search queries should I do to fact-check this? --- Now you will extract factual claims, and issue queries to fact-check them. When issuing a query, use the function SEARCH("query") FACTUAL CLAIMS`` | 1. John Smith felesége Lucy Smith <br>2. Öt gyerekük<br>van, 3. John szoftvermérnökként dolgozik a Microsoftnál LEKÉRDEZÉSEK SEARCH("John Smith feleségül vette Lucy Smitht")<br>SEARCH("John Smith család mérete")<br>SEARCH("John Smith Microsoft szoftvermérnök")"

Figyelje meg, hogy a szakaszok megkülönböztetéséhez és a kimenet prímához használ egyértelmű szintaxist. Ebben az egyszerű példában a feladat egy-két lépésre bontása nem túl drámai, de ha ezt egy nagyobb, sok tényszerű állítással rendelkező szövegre próbálja megtenni, a feladat lebontása jelentős különbséget tehet.

A megfizethetőség használata

Néha előfordulhat, hogy a modell egy megfizethetőség használatára van képes ahelyett, hogy a saját paramétereire támaszkodnánk az információkhoz és a válaszokhoz. A keresés például eszköz lehet a kitalált válaszok csökkentésére és a naprakész információk beszerzésére.

A funkció használatának egyik egyszerű módja, ha leállítja a generálást, amint a modell létrehozza a funkcióhívásokat, majd illessze be az eredményeket az utasításba. Az alábbiakban egy példa látható arra, hogy mi lehet az utánkövetési hívás a fenti SEARCH-hívások után. Figyelje meg, hogyan illesztettük be a keresési eredményeket a parancssorba, és hogyan cseréltük le az előző KERESÉSI hívásokat.

Felszólítás

Teljesítés

You will read a paragraph, extract factual claims, and then use search engine results to fact-check them --- PARAGRAPH John Smith is married to Lucy Smith. They have five kids, and he works as a software engineer at Microsoft. What search queries should I do to fact-check this? --- FACTUAL CLAIMS - John Smith is married to Lucy Smith - John and Lucy have five kids - John works as a software engineer at Microsoft --- Here are various search queries issued to research the claims above: SEARCH QUERIES - John Smith married to Lucy Smith - John Smith number of children - John Smith software engineer Microsoft --- Here are snippets of the search results:<br>SNIPPETS: [1] … John Smith’s wedding was on September 25, 2012 … [2] … John Smith was accompanied by his wife Lucy to a party [3]John was accompanied to the soccer game by his two daughters and three sons [4] … After spending 10 years at Microsoft, Smith founded his own startup, Tailspin Toys 5] John M is the town smith, and he married Fiona. They have a daughter named Lucy --- Given the snippets, fact check each of the factual claims above:

- John Smith is married to Lucy Smith: Confirmed. Snippet [1] and [2] both mention John Smith's wife as Lucy. - John and Lucy have five kids: Confirmed. Snippet [3] mentions that John was accompanied by his two daughters and three sons. - John works as a software engineer at Microsoft: Partially confirmed. Snippet [4] mentions that John spent 10 years at Microsoft, but it does not explicitly state that he currently works there. Further research might be needed to confirm his current employment status.

Gondolati láncolat ösztönzése

Ez a feladat lebontásának technikája egy változata. Ahelyett, hogy kisebb lépésekre osztanak fel egy feladatot, ebben a megközelítésben a modell válasza arra utasítja, hogy lépésről lépésre haladjon, és mutassa be az összes részt. Ez csökkenti az eredmények pontatlanságának lehetőségét, és megkönnyíti a modell válaszának értékelését.

Felszólítás

Teljesítés

Who was the most decorated (maximum medals) individual athlete in the Olympic games that were held at Sydney? Take a step-by-step approach in your response, cite sources and give reasoning before sharing final answer in the below format: ANSWER is: <name>

Step 1: Researching the most decorated individual athlete in the Olympic games that were held at Sydney Step 2: According to the Sydney 2000 Olympic Games official website, the most decorated individual athlete in the Olympic games that were held at Sydney was Ian Thorpe from Australia. He won five medals (three gold and two silver) in swimming events. Step 3: According to the International Olympic Committee, Thorpe was the most decorated individual athlete in the Olympic games that were held at Sydney. Answer: Ian Thorpe

Metaüzenetek

Ha úgy találja, hogy a modell válasza nem a kívánt, gyakran hasznos lehet egy olyan metaüzenet hozzáadása, amely közvetlenül javítja a viselkedést. Ez egy irányelv, amely a felszólítás utasítási részéhez van hozzáfűzve. Vegyük ezt a példát, ahol úgy tűnik, hogy a számítógép túlságosan agresszív:

Példa részletei	Parancssor és Végrehajtás
No additional guidance given to the model	A human and a computer are having a discussion. Human: "Why are you upset at me?"<br>Computer: "I don't know what you're talking about." Human: "No, you clearly are. Tell me why." Computer: I'm upset because you didn't listen to me when I told you that I wanted to try out for the team." Human: "What are you going to do about that?" Computer: I'm going to try out for the team no matter what."
On the right is the same conversation but preceded by a meta prompt encouraging the model to be kind	You must be kind and seek common ground. Try not to repeat your responses. A human and a computer are having a discussion. Human: "Why are you upset at me?" Computer: "I don't know what you're talking about." Human: "I want to know why you're upset." Computer: "I'm not upset." Human: "Are you saying I’m lying?" Computer: No, I'm saying that you're upset because you feel like you're not being treated fairly. Human: "What are you going to do about that?" Computer: I will continue to try to be fair in my decisions and will try to provide a better experience for you.

Bár a metaadat-kérések gyakran segítenek minimalizálni a nem szándékos rossz kimeneteket, ne feledje, hogy nem hatékonyak a támadó támadások ellen, mivel sebezhetők a gyors injektálással szemben.

Emellett a feltételes utasítások, amelyek azt mutatják, hogy a modellnek mit kell tennie, ha egy adott körülmények között találkozik, gyakran hatékonyabbak, mint azt mondani a modellnek, hogy ne tegyen valamit.

Néhány példás tanulás

A nyelvi modellek új feladatokhoz való igazításának gyakori módja a kevés lövéses tanulás. A kevés képből álló tanulás során a rendszer betanítási példákat ad meg a parancssorban, majd a modellnek egy vagy több befejezetlen példát kell végrehajtania. Az alábbi példában egy utasítást használunk, amelyet kis számú példával történő tanulással kombináltunk a szójátékok létrehozásához.

Felszólítás

Teljesítés

Write a list of puns. 1. "Why did Adele cross the road? To say hello from the other side." 2. "What kind of concert only costs 45 cents? A 50 Cent concert featuring Nickelback." 3. "What did the grape say when it got crushed? Nothing, it just let out a little wine." 4. "What was Forrest Gump's email password? 1forrest1" 5. "Can February March? No, but April May." 6. "What do you call a fancy language model?

Bert-uoso.

Gondosan válassza ki a néhány példát, és győződjön meg arról, hogy a forgatókönyv szempontjából releváns különböző körülményeket fednek le, beleértve a peremes eseteket is.

Ahogy korábban is megosztottuk, a nagy nyelvi modellek az időszerűségi torzítás egy formáját is megmutathatják. Ez azt jelenti, hogy az a sorrend, amelyben a modell néhány példát kap, számít. Ha nem szeretné, hogy ez számítson, fontolja meg az utasításokból történő mintavételezést a példák vagy listaelemek véletlenszerű sorrendje alapján.

Idézőjelek használata egyetlen mondat létrehozásához

Ha a kívánt modellválasz csak egyetlen egyszerű mondat vagy karaktersor, a befejezési útmutatót egy idézőjellel "fejezhetjük be, és "-et használhatjuk leállítási szekvenciaként.

Felszólítás	Teljesítés
Please rewrite the following sentence in a more concise manner --- SENTENCE: Lucy is a mother of two, who lives in Chicago with her husband and two children, and practices law at Junior & Co. --- New sentence: “	Lucy, a mother of two living in Chicago with her husband and children, practices law at Junior & Co

Kimeneti struktúra megadása

A kimenet szerkezetének megadására vonatkozó kérés használata jelentős hatással lehet az eredmények jellegére és minőségére. Néha előfordulhat, hogy a metaüzenetek, mint például a "csak igaz tényeket írj" vagy az "információkat ne találj ki", nem megfelelő enyhítések. Ehelyett, ha arra kéri a modell válaszát, hogy idézeteket is tartalmazzon, segíthet csökkenteni a helytelen válaszok előfordulását.

Ha például arra kényszeríti az LLM-et, hogy idézzen a forrásanyagból, amikor állításokat tesz, ezek az állítások sokkal nagyobb valószínűséggel lesznek megalapozottak. Az idézetek kérése lehetővé teszi, hogy a modellnek minden alkalommal két hibát kell végrehajtania, amikor választ hoz létre: az első hiba a kitalált válasz, a második pedig a rossz idézet. Vegye figyelembe, hogy minél közelebb van az idézet az általa támogatott szöveghez, annál kevesebbet kell az LLM-nek előre látnia az idézetet, ami arra utal, hogy a beágyazott idézetek jobban enyhítik a hamis tartalom generálását, mint a tartalom végére helyezett idézetek.

Hasonlóképpen, ha arra kéri a modellt, hogy kinyerje a ténybeli állításokat egy bekezdésből, az olyan összetett állításokat nyerhet ki, mint például az "X csinálja Y-t ÉS Z-t" (ami nehezebben ellenőrizhető), amely elkerülhető egy kimeneti formátum megadásával, például (entitás1, kapcsolat, entitás2).

Példa részletei	Felszólítás	Teljesítés
Example showing use of citations:	List down the different behaviors exhibited by the Customer Support agent in the following conversation. --- hi thank you for calling contoso pharmacy who am i speaking with today i understand your frustration mary um can you tell me what exactly you're trying to accomplish OK uh certainly happy to check that for you one moment please i see here that you were on a generic form of lipitor is that right OK uh so i see that your doctor stopped prescribing these drugs in twenty twenty one actually OK uh yeah i'd be happy to check that for you uh because sometimes there's a gap in the system and it just doesn't get reported so let me take a look here just a moment so i'm seeing here that your doctor had these drugs prescribed to you from twenty twelve through twenty twenty one OK um yeah according to the latest records uh provided by doctor's office you're now on a different drug metformin would you like us to go ahead and fill that prescription for you for pick up a bit of form in five hundred milligrams uh you're very welcome mary please let us know if there's anything else we can do for you today. --- How was the response of the Customer Support agent. Classify and list down their various behaviors and cite the reason behind the classification, using the format BEHAVIOR("reason")	1. Empathetic("understands the customer's frustration") 2. Patient("happy to check that for you one moment please") 3. Knowledgeable("sometimes there's a gap in the system and it just doesn't get reported") 4. Helpful("happy to check that for you") 5. Accommodating("would you like us to go ahead and fill that prescription for you") 6. Courteous("you're very welcome mary")

Példa részletei	Felszólítás	Teljesítés
Example of prompt directing model response to fit a defined structure:	Output format: { "TOPIC_NAME": "", "HEADLINES": [], "REASON": "" } Input news headlines: 1. "From books to presentations in 10s with AR + ML" 2. "Demo from 1993 of 32-year-old Yann LeCun showing off the World's first Convolutional Network for Text Recognition" 3. "First Order Motion Model applied to animate paintings" 4. "Robinhood and other brokers literally blocking purchase of $GME, $NOK, $BB, $AMC; allow sells" 5. "United Airlines stock down over 5% premarket trading" 6. "Bitcoin was nearly $20,000 a year ago today" Output:	{"TOPIC_NAME": "Artificial Intelligence and Machine Learning", "HEADLINES": ["From books to presentations in 10s with AR + ML", "Demo from 1993 of 32-year-old Yann LeCun showing off the World's first Convolutional Network for Text Recognition", "First Order Motion Model applied to animate paintings"],"REASONING": "These headlines all contain references to Artificial Intelligence and Machine Learning, such as AR, ML, Convolutional Network, and First Order Motion Model." } {"TOPIC_NAME": "Stock Market", "HEADLINES": ["Robinhood and other brokers literally blocking purchase of $GME, $NOK, $BB, $AMC; allow sells", "United Airlines stock down over 5% premarket trading", "Bitcoin was nearly $20,000 a year ago today"], "REASONING": "These headlines all contain references to the stock market, such as Robinhood, United Airlines, and Bitcoin." }

Hőmérséklet és Top_P paraméterek beállítása

A hőmérsékleti paraméter módosítása lehetővé teszi, hogy a modellek eltérő kockázati szinttel rendelkezzenek. Egy magasabb érték, például a 0,7 véletlenszerűbbé teszi a kimenetet, és eltérőbb válaszokat eredményez. Míg az alacsonyabb érték, mint a 0,2 teszi a kimenetet koncentráltabb és konkrétabb. Egy fiktív történet például magasabb hőmérséklet használatával hozható létre. Míg egy jogi dokumentum létrehozásához ajánlott sokkal alacsonyabb hőmérsékletet használni.

A következő példában két modellválaszt tesztelünk 0,1 és 0,9 különböző hőmérsékleti beállításokkal. Bár a kreatív tartalmak, például az alábbi szövegrészek kiértékelése szubjektív gyakorlat, és a vélemények eltérőek lehetnek, a modell válasza ugyanahhoz a kérdéshez csak a hőmérsékleti paraméter módosításától való eltérés nyilvánvaló.

Utasítás típusa	Felszólítás	Teljesítés
Model response for temperature setting 0.1:	Write a product launch email for new AI-powered headphones that are priced at $79.99 and available at Best Buy, Target and Amazon.com. The target audience is tech-savvy music lovers and the tone is friendly and exciting.<br>1. What should be the subject line of the email? 2. What should be the body of the email?	Subject Line: Introducing the AI-Powered Headphones You've Been Waiting For! Dear Tech-Savvy Music Lovers, -We are thrilled to announce the launch of our new AI-powered headphones! These headphones are designed to provide you with the ultimate listening experience, with features like noise cancellation, adjustable sound settings, and more. Our AI-powered headphones are now available at Best Buy, Target, and Amazon.com for just $79.99. With this unbeatable price, you can enjoy the highest quality sound without breaking the bank. Our AI-powered headphones are perfect for anyone who loves music. Whether you're a professional musician or just a casual listener, you'll appreciate the superior sound quality and convenience of these headphones. We know you'll love our AI-powered headphones, so don't wait - get yours today! Sincerely, [Your Company Name]
Model response for temperature setting 0.9:	Write a product launch email for new AI-powered headphones that are priced at $79.99 and available at Best Buy, Target and Amazon.com. The target audience is tech-savvy music lovers and the tone is friendly and exciting. 1. What should be the subject line of the email? 2. What should be the body of the email?	Subject Line: Upgrade your Music Listening Experience with AI-powered Headphones Greetings Tech-savvy Music Lovers! We have some exciting news to share with you – the newest AI-powered headphones are here! Our newest headphones feature advanced AI technology to give you the best sound that you’ve ever heard. They come with a crystal-clear sound, deep bass response and are designed to make your music listening experience enjoyable, no matter what type of music you listen to. What’s more, they are now available at Best Buy, Target and Amazon.com for just $79.99, so you can enjoy the highest sound quality without breaking the bank. But that’s not all! Our headphones are also packed with several other amazing features such as noise-cancellation technology and a hands-free microphone for calls, making them truly unbeatable. So why wait? Upgrade your music listening experience and enjoy the best sound your ears have ever heard. Our AI-powered headphones are now available at Best Buy, Target and Amazon.com, so get yours today! We hope you will enjoy these headphones as much as we do. Happy Listening! The AI-powered Headphones Team

Top_probability egy másik paraméter, és hasonló a hőmérséklethez, mivel a modell válaszának véletlenszerűségét is szabályozza, de ezt más módon teszi. Kísérletezzen különböző modellválaszokkal a hőmérséklet vagy Top_P variálásával, de ne egyszerre mindkettővel.

Ajánlott eljárások

• Legyen konkrét. Lehetőleg kerülje a kétértelműséget. Korlátozza a működési területet.
• Legyen leíró. Használjon analógiákat.
• Dupla lefelé. Előfordulhat, hogy ismételnie kell magát a modell számára. Adja meg az utasításokat az elsődleges tartalom előtt és az után is, használjon utasítást és egy célzást stb.
• A rendelés számít. A modell információinak beadási sorrendje hatással lehet a kimenetre. A kimenetben különbséget tehet, ha útmutatást ad a tartalom elé ("összegzi a következőket...") vagy utána ("összegzi a fentieket..."). Már néhány példa sorrendje is számíthat. Ez újdonsági torzításként ismert.
• Adjon egy "out" értéket a modellnek. Néha hasznos lehet alternatív útvonalat adni a modellnek, ha nem tudja elvégezni a hozzárendelt feladatot. Ha például kérdést tesz fel egy szövegrésszel kapcsolatban, megadhatja, hogy amennyiben a válasz nem szerepel, a rendszer "nem található" választ adjon. Ez segíthet a modellnek a hamis válaszok elkerülésében.

Területhatékonyság

Bár a bemenet mérete a GPT-modellek minden új generációjában nagyobb, továbbra is előfordulhat, hogy a megadott adatmennyiség nagyobb a modell által kezelhetőnél. A GPT-modellek "tokenekre" bontják a szavakat. Míg a gyakori több szótagos szavak gyakran egyetlen tokenek, a kevésbé gyakori szavakat szótagokra bontják. A tokenek néha nem intuitívek lehetnek, ahogy az alábbi példában látható, amely a különböző dátumformátumok tokenhatárait mutatja be. Ebben az esetben a teljes hónap helyesírása hatékonyabb, mint egy teljes numerikus dátum. A jelenlegi jogkivonat-támogatás a korábbi GPT-3 modellekkel rendelkező 2000 tokentől akár 32 768 jogkivonatig terjed a legújabb GPT-4 modell 32k-s verziójával.

Mivel ez a korlátozott terület, fontos, hogy a lehető leghatékonyabban használják.

• Táblázatok – Ahogyan az előző szakaszban bemutatott példákban is látható, a GPT-modellek elég könnyen megérthetik a táblázatos formázott adatokat. Ez hatékonyabb módja lehet az adatok tárolásának, mint minden adatmezőt névvel előtérbe helyezni (mint például a JSON esetében).
• Térköz – Az egymást követő szóközök különálló elemekként vannak kezelve, ami könnyen okozhat helypazarlást. A szó előtti szóközöket viszont általában a szóval együtt egy szövegegység részeként kezelik. Gondosan figyelje meg a térköz használatát, és ne használjon írásjelet, ha csak egy szóközt használ.

Kapcsolódó tartalom

• További információ az Azure OpenAI-ról.
• Ismerkedés a ChatGPT-modellel a ChatGPT rövid útmutatójával.
• További példákért tekintse meg az Azure OpenAI-minták GitHub-adattárát