Optimoi mallin tulostus prompt-engineeringillä

  • 9 minuuttia

Helpoin tapa optimoida mallin suorituskykyä on prompt-engineering. Prompt-suunnittelu on prosessi, jossa kehotteita suunnitellaan ja hiotaan parantamaan kielimallin tuottamien vastausten laatua, tarkkuutta ja merkityksellisyyttä. Se ei vaadi lisäinfrastruktuuria tai koulutusdataa, ja voit aloittaa kokeilut heti.

Ymmärrä kehotteiden komponentit

Kun olet vuorovaikutuksessa kielimallin kanssa, kysymyksesi laatu vaikuttaa suoraan vastauksen laatuun. Hyvin rakennettu kehote auttaa mallia ymmärtämään, mitä tarvitset, ja tuottamaan hyödyllisemmän vastauksen.

Keskustelun täydentämismallien kehotteet sisältävät tyypillisesti seuraavat osat:

  • Järjestelmäviesti: Käskyt, jotka määrittelevät mallin käyttäytymisen, roolin ja rajoitteet.
  • Käyttäjäviesti: Käyttäjän kysymys tai syöte.
  • Avustajan viesti: Aiemmat mallivastaukset, käytetty monikierroskeskusteluissa.
  • Esimerkkejä: Näyte syöte/tulostuspareista, jotka havainnollistavat odotetun vastausmuodon.

Se, miten rakennat ja yhdistät nämä komponentit, määrittää, kuinka tehokkaasti malli reagoi.

Suunnittele tehokkaat järjestelmäviestit

Järjestelmäviesti on joukko ohjeita, jotka annat mallille ohjaamaan sen vastauksia. Järjestelmäviestit esiintyvät yleensä ensimmäisenä keskustelussa ja toimivat korkeimman tason käskyjoukkona. Käytät niitä seuraaviin tarkoituksiin:

  • Määrittele avustajan rooli ja rajat.
  • Luo tunnelma ja viestintätyyli.
  • Määritä tulostiedostot, kuten JSON tai luettelopisteet.
  • Lisää turvallisuus- ja laaturajoituksia tilanteeseesi.

Järjestelmäviesti voi olla näin:

You are a helpful AI assistant.

Tai se voi sisältää yksityiskohtaiset säännöt ja muotoiluvaatimukset. Esimerkiksi matkatoimiston chat-sovellus voisi käyttää:

You are a friendly travel advisor for Margie's Travel.
Answer only questions related to travel, hotels, and trip planning.
Use a warm, conversational tone.
If you don't have enough information to answer, ask a clarifying question.
Format hotel recommendations as a bulleted list with the hotel name, location, and price range.

Tärkeää

Järjestelmäviesti vaikuttaa malliin, mutta ei takaa vaatimustenmukaisuutta. Sinun tulisi testata ja iteroida järjestelmäviestejäsi sekä kerrostaa ne muilla suojauskeinoilla, kuten sisällön suodatuksella ja arvioinnilla.

Kun suunnittelet järjestelmäviestiä, noudata tätä tarkistuslistaa:

  1. Aloita avustajan roolista: Kerro rooli ja odotettu lopputulos tyypilliselle pyynnölle.
  2. Määrittele rajat: Listaa aiheet, toiminnot ja sisältötyypit, joita avustajan tulisi välttää.
  3. Määritä tulostusmuoto: Jos tarvitset tietyn muodon, ilmaise se selkeästi ja pidä se johdonmukaisena.
  4. Lisää "kun epävarma" -käytäntö: Kerro mallille, mitä to do, kun käyttäjän pyyntö on epäselvä, ulkopuolella tai kun mallista puuttuu tietoa.

Käytä kehotteiden mallia

Tehokkaat kehotteet käyttävät kaavoja, jotka auttavat mallia tuottamaan parempia vastauksia. Tässä on joitakin yleisiä kaavoja, joita voit käyttää:

Persoonamalli

Ohjeista mallia ottamaan tietty näkökulma tai rooli. Esimerkiksi, jos mallia pyydetään vastaamaan kokeneena markkinointiammattilaisena, tulokset ovat erilaiset kuin ei lainkaan persoonan käyttäminen.

Ei persoonaa Persoonan kanssa
Järjestelmäviesti Ei mitään Olet kokenut markkinoinnin ammattilainen, joka kirjoittaa teknisille asiakkaille.
Käyttäjän kehote Kirjoita yhden lauseen kuvaus CRM-tuotteesta. Kirjoita yhden lauseen kuvaus CRM-tuotteesta.
Vastaus CRM-tuote on ohjelmistotyökalu, joka on suunniteltu hallinnoimaan yrityksen vuorovaikutusta asiakkaiden kanssa. Koe saumaton asiakassuhteiden hallinta CRM-järjestelmämme avulla, joka on suunniteltu tehostamaan toimintoja ja edistämään myynnin kasvua vahvan analytiikan avulla.

Muotopohjamalli

Anna mallipohja tai rakenne kehotteeseesi, jotta saat tuloksen tietyssä muodossa. Esimerkiksi, jos tarvitset rakenteellisen vastauksen hotellista:

Format the result to show:
- Hotel name
- Location
- Star rating
- Price range per night

Tämä kaava varmistaa johdonmukaiset, järjestelmälliset vastaukset, jotka on helppo jäsentää hakemuksessasi.

Ajatusketju

Pyydä mallia selittämään perustelunsa vaihe vaiheelta. Tätä tekniikkaa, nimeltään ajatusketju, vähentää epätarkkojen tulosten riskiä ja helpottaa mallin logiikan varmistamista.

Esimerkiksi sen sijaan, että kysyisit "Mikä hotelli sopii parhaiten nelihenkiselle perheelle?", voit kysyä:

Which hotel is best for a family of four? Take a step-by-step approach: 
consider room size, amenities for children, location, and price.

Samankaltainen tekniikka on pilkkoa tehtävä eksplisiittisiin osavaiheisiin ennen kuin malli reagoi, sen sijaan että pyytäisit sitä perustelemaan kaiken kerralla. Esimerkiksi voit ensin pyytää mallia poimimaan keskeiset faktat tekstistä ja sitten jatkotehtävässä pyytää sitä vastaamaan kysymykseen näiden faktojen perusteella. Teoksen hajottaminen tällä tavalla vähentää virheitä monimutkaisissa, moniosaisissa tehtävissä.

Muistio

Ajatusketjun ohjaaminen on tekniikka ei-päättelymalleille. Päättelymallit, kuten o-sarjan mallit, käsittelevät vaihe vaiheelta -logiikkaa sisäisesti.

Vähäisellä lyönnillä oppimismalli

Anna yksi tai useampi esimerkki halutusta syötteestä ja tulosteesta auttaaksesi mallia tunnistamaan haluamasi mallin. Tätä tekniikkaa kutsutaan muutaman lyönnin oppimiseksi (tai yksittäiseksi yksittäiseksi oppimiseksi). Kun esimerkkejä ei anneta, sitä kutsutaan nollaoppimiseksi .

Esimerkiksi asiakaskyselyjen luokitteluun:

Classify the following customer messages:

Message: "I need to change my flight to Rome"
Category: Booking change

Message: "What's the weather like in Bali in March?"
Category: Travel information

Message: "Can I get a refund for my cancelled tour?"
Category:

Malli oppii luokittelumallin esimerkeistä ja suorittaa viimeisen merkinnän oikein.

Käytä selkeää syntaksia ja erottajia

Kun kehotteessasi on useita osioita — kuten ohjeita, lähdetekstiä ja esimerkkejä — käytä erottajia kuten ---, Markdown-otsikoita tai XML-tageja niiden erottamiseen. Selkeät rajat auttavat mallia erottamaan ohjeet sisällöstä ja vähentävät väärinymmärryksen riskiä.

Vinkki

Mallit voivat olla alttiita tuoreusharhalle, eli teksti kehotteen lopussa voi vaikuttaa enemmän kuin alussa oleva teksti. Jos malli ei noudata ohjeitasi johdonmukaisesti, kokeile toistaa kehotteen lopussa oleva avainkäsky.

Malliparametrien konfigurointi

Kehotteiden tekstin lisäksi voit säätää mallin parametreja, jotka ohjaavat mallin vastausten tuottamista:

  • Lämpötila: Säätelee ulostulon satunnaisuutta. Korkeampi arvo (esimerkiksi 0,7) tuottaa luovempia ja vaihtelevampia vastauksia, kun taas matalampi arvo (esimerkiksi 0,2) tuottaa keskittyneempiä ja deterministisempiä vastauksia. Käytä matalampia arvoja faktatehtävissä ja korkeampia arvoja luovissa tehtävissä.
  • Top_p: Ohjaa myös satunnaisuutta, mutta eri tavalla. Se rajoittaa mallin todennäköisimpien seuraavien tokenien osajoukkoon. Esimerkiksi a top_p arvo 0,9 tarkoittaa, että malli ottaa huomioon vain 90 todennäköistä tokenin%.

Vinkki

Yleinen suositus on säätää joko lämpötilaa tai top_p, ei molempia yhtä aikaa.

Matkatoimiston tapauksessa voit käyttää matalaa lämpötilaa (0,2) vastatessasi hotellin mukavuuksiin liittyviin faktoihin, mutta korkeampaa lämpötilaa (0,7) luovien matkareittiehdotusten laatimisessa.

Kun nopea suunnittelu riittää

Prompt-suunnittelu on oikea lähtökohta mille tahansa mallin optimointityölle. Se on tehokas, kun tarvitset:

  • Ohjaa mallin sävyä, muotoa ja käyttäytymistä.
  • Anna tarkat ohjeet tehtävään.
  • Kehitä tuloksia nopeasti ilman infrastruktuurimuutoksia.
  • Pidä kustannukset alhaisina, sillä lisäkoulutusta tai tieto storage ei tarvita.

Kuitenkin nopealla suunnittelulla on rajansa. Jos mallilla ei ole access tarvitsemaansa tietoon (kuten yrityksesi hotellikatalogi), tai jos se epäonnistuu johdonmukaisesti ylläpitämään tiettyä käyttäytymistä yksityiskohtaisista ohjeista huolimatta, sinun täytyy harkita lisästrategioita.