Share via

Prompt engineering-technieken

  • Artikel

In deze handleiding wordt u begeleid bij een aantal geavanceerde technieken bij promptontwerp en prompt engineering. Als u niet bekend bent met het vragen van engineering, raden we u aan om te beginnen met onze inleiding tot promptgids voor engineering.

Hoewel de principes van prompt-engineering kunnen worden gegeneraliseerd voor veel verschillende modeltypen, verwachten bepaalde modellen een gespecialiseerde promptstructuur. Voor AZURE OpenAI GPT-modellen zijn er momenteel twee verschillende API's waar prompt-engineering aan de orde komt:

  • Api voor voltooiing van chat.
  • Voltooiings-API.

Voor elke API moeten invoergegevens anders worden opgemaakt, wat op zijn beurt van invloed is op het algehele promptontwerp. De CHAT-voltooiings-API ondersteunt de GPT-35-Turbo- en GPT-4-modellen. Deze modellen zijn ontworpen voor invoer die is opgemaakt in een specifieke chatachtige transcriptie die is opgeslagen in een matrix met woordenlijsten.

De Voltooiings-API ondersteunt de oudere GPT-3-modellen en heeft veel flexibelere invoervereisten omdat er een tekenreeks met tekst zonder specifieke notatieregels nodig is.

De technieken in deze handleiding leren u strategieën voor het verhogen van de nauwkeurigheid en aarding van reacties die u genereert met een Large Language Model (LLM). Het is echter belangrijk om te onthouden dat zelfs wanneer u prompt engineering effectief gebruikt, u nog steeds de antwoorden moet valideren die de modellen genereren. Omdat een zorgvuldig ontworpen prompt goed werkte voor een bepaald scenario, betekent dit niet noodzakelijkerwijs dat het algemener wordt voor bepaalde gebruiksscenario's. Het begrijpen van de beperkingen van LLM's is net zo belangrijk als het begrijpen van hun sterke punten.

Deze handleiding gaat niet dieper in op de mechanica achter de berichtstructuur voor chatvoltooiingen. Als u niet bekend bent met interactie met modellen voor chatvoltooiingen via een programma, raden we u aan eerst onze instructiegids te lezen over de CHAT-voltooiings-API.

Notitie

Alle voorbeelden in deze sectie van de handleiding zijn getest op basis van een GPT-4-basismodel in het Engels. Als u een gelokaliseerde versie van dit artikel leest in een andere taal, vertegenwoordigen deze antwoorden een gelokaliseerde vertaling van de Engelse resultaten. Voor meer informatie over mogelijke beperkingen, afhankelijk van de taal die u gebruikt om een model te vragen, raadpleegt u onze verantwoordelijke AI-transparantienotitie.

Systeembericht

Het systeembericht wordt aan het begin van de prompt opgenomen en wordt gebruikt om het model te primen met context, instructies of andere informatie die relevant is voor uw use-case. U kunt het systeembericht gebruiken om de persoonlijkheid van de assistent te beschrijven, te definiëren wat het model moet en mag niet beantwoorden en de indeling van modelreacties te definiëren.

In het onderstaande voorbeeld ziet u een voorbeeldsysteembericht en het resulterende modelantwoord:

Systeembericht User Assistent
U bent een AI-assistent die mensen helpt informatie te vinden en op rijm reageert. Als de gebruiker u een vraag stelt waarop u het antwoord niet weet, zeg dat dan. Wat kun je over mij vertellen, John Doe? Lieve John, het spijt me te zeggen,
Maar ik heb vandaag geen informatie over je.
Ik ben gewoon een AI met kennis in mijn hersenen,
Maar zonder jouw input kan ik het niet uitleggen.
Dus vertel me alsjeblieft meer over wat je zoekt,
En ik doe mijn best om je een uniek antwoord te geven.

Enkele andere voorbeelden van systeemberichten zijn:

  • "Assistent is een groot taalmodel dat is getraind door OpenAI."
  • "Assistent is een intelligente chatbot die is ontworpen om gebruikers te helpen technische vragen over Azure OpenAI Service te beantwoorden. Beantwoord alleen vragen met behulp van de onderstaande context en als u niet zeker bent van een antwoord, kunt u 'Ik weet het niet' zeggen.
  • "Assistent is een intelligente chatbot die is ontworpen om gebruikers te helpen hun belastinggerelateerde vragen te beantwoorden."
  • "U bent een assistent die is ontworpen om entiteiten uit tekst te extraheren. Gebruikers plakken een tekenreeks met tekst en u reageert met entiteiten die u uit de tekst hebt geëxtraheerd als een JSON-object. Hier volgt een voorbeeld van de uitvoerindeling:
{  
   "name": "",
   "company": "",
   "phone_number": ""
}

Een belangrijk detail om te begrijpen is dat zelfs als u een model in het systeembericht instrueert om te beantwoorden ik niet weet wanneer ik niet zeker weet of een antwoord dit niet garandeert dat de aanvraag wordt gehonoreerd. Een goed ontworpen systeembericht kan de kans op een bepaald resultaat vergroten, maar het is nog steeds mogelijk dat een onjuist antwoord kan worden gegenereerd dat in strijd is met de bedoeling van de instructie in het systeembericht.

Weinig-shot learning

Een veelgebruikte manier om taalmodellen aan te passen aan nieuwe taken is het gebruik van weinig-shot learning. Bij weinig-shot learning wordt een reeks trainingsvoorbeelden gegeven als onderdeel van de prompt om extra context aan het model te geven.

Wanneer u de API voor chatvoltooiingen gebruikt, kan een reeks berichten tussen de gebruiker en assistent (geschreven in de nieuwe promptindeling) fungeren als voorbeelden voor weinig-shot learning. Deze voorbeelden kunnen worden gebruikt om het model op een bepaalde manier te laten reageren, bepaalde gedragingen te emuleren en antwoorden op veelgestelde vragen te zaaien.

Systeembericht Paar-shot-voorbeelden
Assistent is een intelligente chatbot die is ontworpen om gebruikers te helpen hun belastinggerelateerde vragen te beantwoorden.
Instructies
- Beantwoord alleen vragen met betrekking tot belastingen.
- Als u niet zeker bent van een antwoord, kunt u zeggen 'Ik weet het niet' of 'Ik weet het niet zeker' en raad gebruikers aan om naar de IRS-website te gaan voor meer informatie.		 Gebruiker : 'Wanneer moet ik mijn belastingen indienen?'
Assistent : "In 2023 moet u uw belastingen indienen op 18 april. De datum valt na de gebruikelijke deadline van 15 april omdat 15 april valt op een zaterdag in 2023. Zie voor meer informatie https://www.irs.gov/filing/individuals/when-to-file "

Gebruiker : "Hoe kan ik de status van mijn belastingrestitutie controleren?"
Assistent - "U kunt de status van uw belastingrestitutie controleren door naar https://www.irs.gov/refunds "

In de bovenstaande tabel wordt de structuur van de basisprompt beschreven, maar voor een gedetailleerde uitleg van de exacte promptindeling moet u verwijzen naar de handleiding chatvoltooiing.

Niet-chatscenario's

Hoewel de API voor chatvoltooiing is geoptimaliseerd voor gebruik met gesprekken met meerdere paden, kan deze ook worden gebruikt voor niet-chatscenario's. Voor een sentimentanalysescenario kunt u bijvoorbeeld de volgende prompt gebruiken:

Systeembericht User Assistent
U bent een assistent die is ontworpen om het gevoel van spraakgegevens te analyseren. Gebruikers plakken een tekenreeks met tekst en u reageert met een evaluatie van het antwoord van de spreker. Rente op een schaal van 1-10 (10 hoogste). Leg uit waarom deze classificatie is gegeven. Hallo bedankt voor het bellen van contoso apotheek die ik spreek vandaag ik begrijp je frustratie mary um kan je me vertellen wat je precies probeert te bereiken OK uh zeker blij om te controleren dat voor je een moment alsjeblieft ik zie hier dat je op een algemene vorm van lipitor was dat goed ok uh, dus ik zie dat uw arts stopte met het schrijven van deze medicijnen in twintigentwintig eigenlijk OK uh Ja, ik zou blij zijn om te controleren of er voor jou een hiaat is omdat er soms een hiaat in het systeem is en het wordt gewoon niet gemeld, dus laat me even even kijken, dus ik zie hier dat uw arts deze geneesmiddelen voor u had voorgeschreven van twintig tot 22 1 OKum ja volgens de laatste records van dokterskantoor u nu op een ander medicijn metformine zou hebben Je vindt ons leuk om dat recept voor je op te halen voor het ophalen van een beetje vorm in vijfhonderd mg u bent zeer welkom mary laat ons weten als er iets anders is wat we vandaag voor u kunnen doen. Gevoelsclassificatie: 8
De spreker in deze tekst lijkt beleefd, behulpzaam en geduldig te zijn tijdens het aanpakken van de zorgen van de klant. Ze nemen de tijd om de informatie te controleren, duidelijke uitleg te geven en hulp te bieden. De waardering is echter geen 10, omdat er nog steeds een hint is van onzekerheid in sommige delen van het gesprek, waardoor de klant mogelijk niet volledig vertrouwen heeft.

Begin met duidelijke instructies

De volgordegegevens worden weergegeven in de prompt. Dit komt doordat GPT-stijlmodellen op een bepaalde manier zijn gebouwd die bepalen hoe ze de invoer verwerken. Ons onderzoek stelt voor dat het model aan het begin van de prompt aangeeft dat het model aan het begin van de prompt moet worden uitgevoerd, voordat u aanvullende contextuele informatie of voorbeelden deelt, kan helpen bij het produceren van uitvoer van hogere kwaliteit.

Notitie

Hoewel het volgen van deze techniek nog steeds algemeen wordt aanbevolen, in tegenstelling tot eerdere modelversies (GPT-3 en eerdere), bleek uit onze tests dat het modelantwoord met ChatGPT- en GPT-4-modellen hetzelfde was, ongeacht of de techniek wordt gebruikt. In het onderstaande voorbeeld zien we dat het toevoegen van de instructie 'Verschillende bronnen ... uitbarsting" aan het begin of einde van de prompt heeft geen verandering veroorzaakt in de uiteindelijke modelreactie.

Systeembericht User Assistent
U bent een AI-assistent waarmee mensen informatie kunnen vinden. Uw taak is om te controleren of de instructie 'Meerdere bronnen een kans op een andere grote uitbarsting vermelden' wordt ondersteund door een specifiek citaat uit de volgende set fragmenten.
---
FRAGMENTEN
[1] 14 procent kans op megaquake hitting Seattle, experts zeggen
SEATTLE - Er is een kans van 14 procent op een aardbeving van 9 Cascadia die Seattle de komende 50 jaar bereikt, de schattingen van de Amerikaanse geologisch onderzoek. "Helaas kunnen we niet...

[2] Aardbevingsexperts leggen de nieuwste outlook uit voor 'Really Big One' van Seattle
"We zeggen dat er ongeveer 14% kans is op een andere ongeveer grootte-9 aardbeving die de komende 50 jaar optreedt", zei een geofysicus aan de Universiteit van Washington...
---
Is de verklaring "Verschillende bronnen noemen een kans op een andere grote uitbarsting" rechtstreeks impliciet of vermeld door de fragmenten?		 Nee, de instructie wordt niet rechtstreeks geïmpliceerd of vermeld door de fragmenten. De fragmenten noemen een kans op een "megaquake" en een "magnitude 9 Cascadia aardbeving" die Seattle in de komende 50 jaar bereikt, maar noem geen kans op een andere grote uitbarsting.

Herhaal de instructies aan het einde

Modellen kunnen vatbaar zijn voor recency bias, wat in deze context betekent dat informatie aan het einde van de prompt mogelijk meer invloed heeft op de uitvoer dan informatie aan het begin van de prompt. Daarom is het de moeite waard om te experimenteren met het herhalen van de instructies aan het einde van de prompt en het evalueren van de impact op het gegenereerde antwoord.

De uitvoer primen

Dit verwijst naar het opnemen van enkele woorden of woordgroepen aan het einde van de prompt om een modelantwoord te verkrijgen dat volgt op het gewenste formulier. Als u bijvoorbeeld een aanwijzing gebruikt, bijvoorbeeld “Here’s a bulleted list of key points:\n- ” om ervoor te zorgen dat de uitvoer is opgemaakt als een lijst met opsommingstekens.

Systeembericht User Assistent
U bent een AI-assistent waarmee mensen informatie kunnen vinden. Beantwoord zo weinig mogelijk woorden. John Smith is getrouwd met Lucy Smith. Ze hebben vijf kinderen en hij werkt als software-engineer bij Microsoft. Welke zoekquery's moet ik doen om dit te controleren? ## Een mogelijke zoekquery is: "John Smith trouwde met Lucy Smith vijf kinderen software engineer Microsoft"

In de bovenstaande prompt is de tekst Een mogelijke zoekquery: het model maakt een eerste uitvoer. Zonder deze aanwijzing produceert het model verschillende zoekquery's als uitvoer.

Duidelijke syntaxis toevoegen

Door duidelijke syntaxis te gebruiken voor uw prompt, inclusief leestekens, koppen en sectiemarkeringen, kunt u de intentie communiceren en worden uitvoer vaak gemakkelijker te parseren.

In het onderstaande voorbeeld zijn scheidingstekens (--- in dit geval) toegevoegd tussen verschillende informatiebronnen of stappen. Hierdoor kan het gebruik van --- als stopvoorwaarde voor het genereren worden gebruikt. Daarnaast worden sectiekoppen of speciale variabelen in hoofdletters weergegeven om deze te onderscheiden.

Systeembericht User Assistent
U bent een AI-assistent waarmee mensen informatie kunnen vinden. U leest een alinea en geeft vervolgens query's uit aan een zoekmachine om deze te controleren. Leg ook de query's uit.
---
LID
John Smith is getrouwd met Lucy Smith. Ze hebben vijf kinderen en hij werkt als software-engineer bij Microsoft. Welke zoekquery's moet ik doen om dit te controleren?
---
QUERY'S		 1. "John Smith Microsoft": om te controleren of John Smith inderdaad bij Microsoft werkt.
2. "John Smith Lucy Smith" - Om te controleren of John Smith getrouwd is met Lucy Smith.
3. "John Smith kinderen" - Om te controleren of John Smith vijf kinderen heeft.

Als u niet zeker weet welke syntaxis u moet gebruiken, kunt u Markdown of XML gebruiken. De modellen zijn getraind op een grote hoeveelheid webinhoud in XML en Markdown, wat betere resultaten kan opleveren.

De taak opsplitsen

Grote taalmodellen (LLM's) presteren vaak beter als de taak wordt opgesplitst in kleinere stappen. In de queryprompt waarnaar eerder wordt verwezen, kan de prompt bijvoorbeeld worden geherstructureerd, zodat het model eerst wordt geïnstrueerd om relevante feiten te extraheren en vervolgens wordt geïnstrueerd om zoekquery's te genereren die kunnen worden gebruikt om deze feiten te verifiëren.

Systeembericht User Assistent
U bent een AI-assistent waarmee mensen informatie kunnen vinden. U leest een alinea en geeft vervolgens query's uit aan een zoekmachine om deze te controleren.
---
LID
John Smith is getrouwd met Lucy Smith. Ze hebben vijf kinderen en hij werkt als software-engineer bij Microsoft. Welke zoekquery's moet ik doen om dit te controleren?
---
Nu extraheert u feitelijke claims en geeft u query's uit om ze te controleren. Wanneer u een query uitgeeft, gebruikt u de functie SEARCH("query")

FEITELIJKE CLAIMS		 1. John Smith is getrouwd met Lucy Smith
2. Ze hebben vijf kinderen
3. Hij werkt als software-engineer bij Microsoft

QUERY'S
SEARCH("John Smith trouwde met Lucy Smith")
SEARCH("John Smith family size")
SEARCH("John Smith Microsoft-software engineer")

Let op het gebruik van duidelijke syntaxis om de secties te onderscheiden en de uitvoer te primen. In dit eenvoudige voorbeeld is het opsplitsen van de taak van één tot twee stappen niet erg dramatisch, maar wanneer u dit probeert te doen voor een groter stuk tekst met veel feitelijke claims, kan het opsplitsen van de taak een aanzienlijk verschil maken.

Gebruik van betaalbaarheid

Soms kunnen we het model krijgen om een betaalbaarheid te gebruiken in plaats van te vertrouwen op zijn eigen parameters voor informatie en antwoorden. Zoeken kan bijvoorbeeld een betaalbaarheid zijn om te helpen beperken tegen ge fabriceerde antwoorden en om up-to-date informatie te krijgen.

Een eenvoudige manier om een betaalbaarheid te gebruiken, is door de generatie te stoppen zodra de betaalbaarheidsaanroepen door het model worden gegenereerd en de resultaten vervolgens weer in de prompt te plakken. Hieronder ziet u een voorbeeld van wat de opvolgingsoproep kan zijn na het uitvoeren van de bovenstaande ZOEK-aanroepen . U ziet hoe we de zoekresultaten in de prompt hebben geplakt en de vorige SEARCH-aanroepen hebben vervangen.

Systeembericht User Assistent
U bent een AI-assistent waarmee mensen informatie kunnen vinden. U leest een alinea, extraheert feitelijke claims en gebruikt vervolgens zoekresultaten om ze te controleren
---
LID
John Smith is getrouwd met Lucy Smith. Ze hebben vijf kinderen en hij werkt als software-engineer bij Microsoft. Welke zoekquery's moet ik doen om dit te controleren?
---
FEITELIJKE CLAIMS
- John Smith is getrouwd met Lucy Smith
- John en Lucy hebben vijf kinderen
- John werkt als software-engineer bij Microsoft
---
Hier volgen verschillende zoekquery's die zijn uitgegeven om de bovenstaande claims te onderzoeken:
ZOEKQUERY'S
- John Smith gehuwd met Lucy Smith
- John Smith aantal kinderen
- John Smith-software-engineer Microsoft
---
Dit zijn fragmenten van de zoekresultaten:
FRAGMENTEN:
[1] De bruiloft van John Smith was op 25 september 2012 ...
[2] John Smith werd vergezeld door zijn vrouw Lucy aan een feestje
[3] John werd vergezeld van het voetbalspel door zijn twee dochters en drie zonen
[4] Na 10 jaar bij Microsoft, richtte Smith zijn eigen startup op, Tailspin Toys
John M is de stad smith en hij trouwde met Fiona. Ze hebben een dochter genaamd Lucy
---
Op basis van de codefragmenten controleert u elk van de bovenstaande feitelijke claims:		 - John Smith is getrouwd met Lucy Smith: Bevestigd. Fragment [1] en [2] vermelden allebei John Smiths vrouw als Lucy.

- John en Lucy hebben vijf kinderen: Bevestigd. Fragment [3] vermeldt dat John vergezeld was van zijn twee dochters en drie zonen.

- John werkt als software-engineer bij Microsoft: Gedeeltelijk bevestigd. Fragment [4] vermeldt dat John 10 jaar bij Microsoft heeft doorgebracht, maar niet expliciet vermeldt dat hij daar momenteel werkt. Verder onderzoek kan nodig zijn om zijn huidige arbeidsstatus te bevestigen.

Keten van gedachteprompt

Dit is een variatie op de techniek voor het opsplitsen van de taak. In plaats van een taak op te splitsen in kleinere stappen, wordt in deze benadering het modelantwoord stapsgewijs uitgelegd en worden alle betrokken stappen weergegeven. Dit vermindert de kans op onnauwkeurigheid van resultaten en maakt het beoordelen van de modelrespons eenvoudiger.

Systeembericht User Assistent
U bent een AI-assistent waarmee mensen informatie kunnen vinden. Wie was de meest versierde (maximum medailles) individuele atleet in de Olympische spelen die werden gehouden in Sydney? Neem een stapsgewijze benadering in uw antwoord, citeer bronnen en geef redenering voordat u het laatste antwoord deelt in de onderstaande indeling: ANSWER is: <name> Stap 1: Bepaal het jaar van de Olympische Spelen van Sydney. De Olympische Spelen van Sydney werden gehouden in het jaar 2000.

Stap 2: Zoek een lijst met individuele atleten die meerdere medailles hebben gewonnen op de Olympische Spelen van Sydney 2000.

Volgens de officiële website van de Olympische Spelen waren er verschillende individuele atleten die meerdere medailles wonn op de Olympische Spelen van Sydney in 2000. Enkele van de belangrijke namen zijn:
• Ian Thorpe (Australië) - 3 goud, 2 zilver, 0 brons
• Pieter van den Hoogenband (Nederland) - 2 goud, 0 zilver, 2 brons
• Encryption Krayzelburg (VS) - 3 goud, 0 zilver, 0 brons
• Inge de Bruijn (Nederland) - 3 goud, 1 zilver, 0 brons

Stap 3: Bepaal de atleet met de meeste medailles. Na het bekijken van de lijst met individuele atleten die meerdere medailles won op de Olympische Spelen van 2000 in Sydney, kunnen we zien dat de atleet met de meeste medailles Ian Thorpe uit Australië is, die in totaal 5 medailles won (3 goud en 2 zilver).

Daarom is het ANTWOORD: Ian Thorpe.

De uitvoerstructuur opgeven

Door uw prompt te gebruiken om de structuur van de uitvoer op te geven, kan dit een aanzienlijk effect hebben op de aard en kwaliteit van de resultaten. Soms zijn systeemberichtinvoeren als 'alleen echte feiten schrijven' of 'geen informatie fabriceren' mogelijk niet voldoende oplossingen. In plaats daarvan kan het vragen om het modelantwoord ook bronvermeldingen op te nemen, leiden tot een vermindering van de prevalentie van onjuiste antwoorden.

Als u het model instrueert om het bronmateriaal te citeren wanneer het instructies maakt, zijn deze instructies veel waarschijnlijker geaard. Als u om bronvermeldingen vraagt, moet het model twee fouten maken telkens wanneer er een antwoord wordt gegenereerd: de eerste fout is het ge fabriceerde antwoord en de tweede is de slechte bronvermelding. Houd er rekening mee dat hoe dichter de bronvermelding is bij de tekst die wordt ondersteund, hoe korter de afstand voor het model is om te anticiperen op de bronvermelding, wat aangeeft dat inline-bronvermeldingen betere oplossingen zijn voor het genereren van valse inhoud dan bronvermeldingen aan het einde van de inhoud.

Als u het model vraagt om feitelijke instructies uit een alinea te extraheren, kan het ook samengestelde instructies extraheren, zoals 'X doet Y EN Z' (wat moeilijker kan zijn om te verifiëren). Dit kan worden vermeden door een uitvoerstructuur op te geven, zoals (entiteit1, relatie, entiteit2).

In de onderstaande voorbeelden ziet u het gebruik van bronvermeldingen en het omsturen van het modelantwoord op een gedefinieerde structuur.

Systeembericht User Assistent
U bent een AI-assistent waarmee mensen informatie kunnen vinden Vermeld in het volgende gesprek het verschillende gedrag van de klantondersteuningsmedewerker.
---
Hallo bedankt voor het bellen van contoso apotheek die ik spreek vandaag ik begrijp je frustratie mary um kan je me vertellen wat je precies probeert te bereiken OK uh zeker blij om te controleren dat voor je een moment alsjeblieft ik zie hier dat je op een algemene vorm van lipitor was dat goed ok uh, dus ik zie dat uw arts stopte met het schrijven van deze medicijnen in twintigentwintig eigenlijk OK uh Ja, ik zou blij zijn om te controleren of er voor jou een hiaat is omdat er soms een hiaat in het systeem is en het wordt gewoon niet gemeld, dus laat me even even kijken, dus ik zie hier dat uw arts deze geneesmiddelen voor u had voorgeschreven van twintig tot 22 1 OKum ja volgens de laatste records van dokterskantoor u nu op een ander medicijn metformine zou hebben Je vindt ons leuk om dat recept voor je op te halen voor het ophalen van een beetje vorm in vijfhonderd mg u bent zeer welkom mary laat ons weten als er iets anders is wat we vandaag voor u kunnen doen.
---
Hoe is het antwoord van de klantondersteuningsmedewerker?
Classificeer en vermeld hun verschillende gedragingen en citeer de reden achter de classificatie, met behulp van de notatie BEHAVIOR("reason")		 1. Beleefd begroetingSGEDRAG("Agent start het gesprek met een beleefde begroeting en vraagt om de naam van de beller")
2. Empathetisch GEDRAG("Agent erkent Mary's frustratie en probeert haar bezorgdheid te begrijpen")
3. Attent GEDRAG("Agent luistert naar het probleem van de klant en vraagt om meer informatie")
4. Proactief GEDRAG("Agent biedt aan om het probleem voor de klant te controleren")
5. Informatief GEDRAG("Agent verstrekt de relevante informatie over de voorschriftgeschiedenis van de klant")
6. Grondig GEDRAG("Agent controleert op mogelijke hiaten in het systeem en levert een volledig antwoord")
7. Confirmatory BEHAVIOR("Agent bevestigt de huidige medicatie bij de klant")
8. Oplossingsgericht GEDRAG("Agent biedt aan om het nieuwe recept voor de klant te vullen")
9. Courteous BEHAVIOR("Agent thanks the customer and offers further assistance if needed")
Systeembericht User Assistent
U bent een AI-assistent waarmee mensen informatie kunnen vinden. Cluster de volgende nieuwskoppen in onderwerpcategorieën op basis van patronen die in de tekst worden gezien. Vermeld ook redenering achter de wijze waarop deze categorieën zijn gedefinieerd.
Uitvoerindeling:
{
"TOPIC_NAME": "",
"KOPPEN": [],
"REDENEREN": ""
}

Nieuwskoppen invoeren:
1. "Van boeken tot presentaties in 10s met AR + ML"
2. "Demo uit 1993 van 32-jarige Yann LeCun toont het eerste Convolutional Network for Text Recognition ter wereld"
3. "First Order Motion Model applied to animate paintings"
4. "Robinhood en andere brokers blokkeren letterlijk de aankoop van $GME, $NOK, $BB, $AMC; verkopen toestaan"
5. "United Airlines stock down over 5% premarket trading"
Uitvoer:
{
"ARTIFICIAL_INTELLIGENCE": {
"KOPPEN": [
"Van boeken tot presentaties in 10s met AR + ML",
"Demo uit 1993 van 32-jarige Yann LeCun toont het eerste Convolutional Network for Text Recognition ter wereld",
"First Order Motion Model applied to animate paintings"
],
"REDENEREN": "Deze koppen zijn gerelateerd aan kunstmatige intelligentie, machine learning en hun toepassingen in verschillende velden."
},
"FINANCIAL_MARKETS": {
"KOPPEN": [
"Robinhood en andere brokers blokkeren letterlijk de aankoop van $GME, $NOK, $BB, $AMC; verkopen toestaan",
"United Airlines stock down meer dan 5% premarket trading",
"Bitcoin was bijna $ 20.000 per jaar geleden vandaag"
],
"REDENEREN": "Deze koppen zijn gerelateerd aan financiële markten, aandelen, cryptovaluta's en handelsplatforms."
}
}

Temperatuur- en Top_p parameters

Als u de temperatuurparameter wijzigt, wordt de uitvoer van het model gewijzigd. De temperatuurparameter kan tussen 0 en 2 worden ingesteld. Een hogere waarde, bijvoorbeeld 0,7, maakt de uitvoer willekeuriger en produceert meer uiteenlopende antwoorden, terwijl een lagere waarde, zoals. 0.2, maakt de uitvoer meer gericht en concreet. Een fictief verhaal kan worden gegenereerd met een hogere temperatuur. Voor het genereren van een juridisch document is het raadzaam om een veel lagere temperatuur te gebruiken. Top_probability is een andere parameter en is vergelijkbaar met Temperatuur omdat hiermee ook de willekeurigheid van het modelantwoord wordt gecontroleerd, maar dit op een andere manier doet. De algemene aanbeveling is om een van deze twee parameters tegelijk te wijzigen, niet beide.

Basiscontext opgeven

Een van de meest effectieve manieren om betrouwbare antwoorden te geven, is door de modelgegevens te geven om de reacties te trekken van (grondgegevens). Als uw use-case afhankelijk is van actuele, betrouwbare informatie en niet uitsluitend een creatief scenario is, raden we u ten zeerste aan grondgegevens op te geven. Over het algemeen, hoe dichter u uw bronmateriaal kunt krijgen bij de uiteindelijke vorm van het gewenste antwoord, hoe minder werk het model moet doen, wat betekent dat er minder kans is op fouten. Hier volgt een voorbeeld waarin het systeem een recente blog bevat met een beschrijving van de lancering van GPT-4 in Azure OpenAI Service en waarin wordt gevraagd om enkele van de vroege klanten een naam te geven.

Systeembericht User Assistent
U bent een AI-assistent waarmee mensen informatie kunnen vinden. U geeft uitsluitend antwoorden van de onderstaande tekst en reageert in 100 woorden of minder:
"Bij Microsoft ontdekken we voortdurend nieuwe manieren om creativiteit te ontketenen, productiviteit te ontgrendelen en vaardigheden op niveau te verhogen, zodat meer mensen kunnen profiteren van het gebruik van AI. Hierdoor kunnen onze klanten ...

... waardoor de kans wordt verkleind dat het model een schadelijk antwoord genereert."1

Beantwoord in 100 woorden of minder. Gebruik waar mogelijk lijsten met opsommingstekens.		 Wie zijn enkele van de vroege klanten van de GPT-4-modellen van de Azure OpenAI-service? Hier volgen enkele van de vroege klanten van de GPT-4-modellen van de Azure OpenAI-service:
- Epic Healthcare: Ze zijn van plan gpt-4 te gebruiken om artsen en verpleegsters te helpen minder tijd te besteden aan het invoeren en onderzoeken van gegevens.
- Coursera: Ze gebruiken de Azure OpenAI-service met GPT-4 om een nieuwe ai-leerervaring op hun platform te maken.
- Coca-Cola: Ze gebruiken Azure OpenAI om een kennishub te bouwen en gebruik te maken van de multimodale mogelijkheden van GPT-4 voor marketing, reclame, public relations en klantrelaties.
- Andere bedrijven van alle grootten maken gebruik van Azure AI om klantervaringen te verbeteren, lange-vorminhoud samen te vatten, software te schrijven en risico's te verminderen door de juiste belastinggegevens te voorspellen.

1 Text from Azure OpenAI GPT-4 launch blog.

Volgende stappen

Notitie

Alle voorbeelden in deze sectie van de handleiding zijn getest met het model in het gpt-35-turbo-instruct Engels. Als u een gelokaliseerde versie van dit artikel leest in een andere taal, vertegenwoordigen deze antwoorden een gelokaliseerde vertaling van de Engelse resultaten. Voor meer informatie over mogelijke beperkingen, afhankelijk van de taal die u gebruikt om een model te vragen, raadpleegt u onze verantwoordelijke AI-transparantienotitie.

Begin met duidelijke instructies

De volgordegegevens worden toegevoegd aan de prompt. Ons onderzoek stelt voor dat het model aan het begin van de prompt aangeeft dat het model aan het begin van de prompt moet worden uitgevoerd, voordat u aanvullende contextuele informatie of voorbeelden deelt, kan helpen bij het produceren van uitvoer van hogere kwaliteit.

In het eerste voorbeeld hieronder wordt een belangrijk deel van de instructies alleen aan het einde gedeeld en is de resulterende voltooiing onjuist.

Prompt Voltooiing
Your task is to verify if a statement is supported by a specific quote from the following set of snippets.
---
SNIPPETS
[1] 14 percent chance of megaquake hitting Seattle, experts say SEATTLE - There's a 14 percent chance of a magnitude 9 Cascadia earthquake hitting Seattle in the next 50 years, the U.S. Geological Survey estimates. "Unfortunately, we are unable to...

[2] Earthquake experts lay out latest outlook for Seattle's 'Really Big One’
“We say that there's approximately a 14% chance of another approximately magnitude-9 earthquake occurring in the next 50 years,” said a geophysicist at the University of Washington...
 Yes, the statement is directly implied by the snippets.

In dit volgende voorbeeld geven we de exacte instructie die we willen controleren ('Verschillende bronnen noemen een kans op een andere uitbarsting') voordat we de context van het fragment geven. Hierdoor kunnen de tokenweergaven die zijn geëxtraheerd uit de fragmenten worden aangepast aan de instructie die we controleren. Nu is het resulterende modelantwoord nauwkeurig:

Prompt Voltooiing
Your task is to verify if the statement "Several sources mention a chance of another large eruption" is supported by a specific quote from the following set of snippets.
---
SNIPPETS
[1] 14 percent chance of megaquake hitting Seattle, experts say SEATTLE - There's a 14 percent chance of a magnitude 9 Cascadia earthquake hitting Seattle in the next 50 years, the U.S. Geological Survey estimates. "Unfortunately, we are unable to...

[2] Earthquake experts lay out latest outlook for Seattle's 'Really Big One’<br>“We say that there's approximately a 14% chance of another approximately magnitude-9 earthquake occurring in the next 50 years,” said a geophysicist at the University of Washington...
---
**Is the statement "Several sources mention a chance of another large eruption" directly implied or stated by the snippets?**		 No, the statement is not directly implied or stated by the snippets. The snippets mention a chance of a "megaquake" and a "magnitude 9 Cascadia earthquake" hitting Seattle in the next 50 years, but do not mention a chance of another large eruption.

Herhaal de instructies aan het einde

Modellen kunnen vatbaar zijn voor recency bias, wat betekent dat informatie aan het einde van de prompt mogelijk meer invloed heeft op de uitvoer dan informatie aan het begin van de prompt. Daarom is het de moeite waard om te experimenteren met het herhalen van de instructies aan het einde van de prompt en het evalueren van de impact voor uw use-case.

We hebben in het vorige voorbeeld gezien hoe het herhalen van de instructie aan het begin en het einde van de prompt leidt tot een hogere kans op een nauwkeurige modelreactie.

De uitvoer primen

Dit verwijst naar het opnemen van enkele woorden of woordgroepen aan het einde van de prompt om een modelantwoord te verkrijgen dat volgt op het gewenste formulier. Als u bijvoorbeeld een aanwijzing gebruikt, bijvoorbeeld “Here’s a bulleted list of key points:\n- ” om ervoor te zorgen dat de uitvoer is opgemaakt als een lijst met opsommingstekens.

Prompt Voltooiing
John Smith is married to Lucy Smith. They have five kids, and he works as a software engineer at Microsoft. What search queries should I do to fact-check this?
##
One possible search query is:		 "John Smith Microsoft software engineer"
Another possible search query is: "Lucy Smith married to John Smith"
A third possible search query is: "John Smith family size".

In de bovenstaande prompt wordt de tekst 'Eén mogelijke zoekquery is:' het model voor het produceren van een uitvoer in de vorm van een zoekquery. Deze techniek kan helpen bij het verwijderen van heggen die het model doorgaans kan toevoegen, zoals 'Eén mogelijkheid is...'.

Duidelijke syntaxis toevoegen

Door duidelijke syntaxis te gebruiken voor uw prompt, inclusief leestekens, koppen en sectiemarkeringen, kunt u de intentie communiceren en worden uitvoer vaak gemakkelijker te parseren.

In het onderstaande voorbeeld zijn scheidingstekens (--- in dit geval) toegevoegd tussen verschillende informatiebronnen of stappen. Hierdoor kan het gebruik van --- als stopvoorwaarde voor het genereren worden gebruikt. Daarnaast worden sectiekoppen of speciale variabelen in hoofdletters weergegeven om deze te onderscheiden.

Prompt Voltooiing
You will read a paragraph, and then issue queries to a search engine in order to fact-check it. Also explain the queries.
---
PARAGRAPH
John Smith is married to Lucy Smith. They have five kids, and he works as a software engineer at Microsoft. What search queries should I do to fact-check this?
---
QUERIES		 1. "John Smith Microsoft" - To check if John Smith is indeed employed at Microsoft.
2. "John Smith Lucy Smith" - To check if John Smith is married to Lucy Smith.
3. "John Smith children" - To check if John Smith has five children.

Als u niet zeker weet welke syntaxis u moet gebruiken, kunt u overwegen markdown of XML te gebruiken, omdat grote taalmodellen zijn getraind op veel webinhoud in XML of Markdown.

De taak opsplitsen

Modellen presteren vaak beter als de taak wordt opgesplitst in kleinere stappen. In de queryprompt waarnaar eerder wordt verwezen, kan de prompt bijvoorbeeld worden geherstructureerd, zodat het model eerst wordt geïnstrueerd om relevante feiten te extraheren en vervolgens wordt geïnstrueerd om zoekquery's te genereren die kunnen worden gebruikt om deze feiten te verifiëren.

Prompt Voltooiing
You will read a paragraph, and then issue queries to a search engine in order to fact-check it.
---
PARAGRAPH
John Smith is married to Lucy Smith. They have five kids, and works as a software engineer at Microsoft. What search queries should I do to fact-check this?
---
Now you will extract factual claims, and issue queries to fact-check them. When issuing a query, use the function SEARCH("query")

FACTUAL CLAIMS`` | John Smith is getrouwd met Lucy Smith <br>2. Ze hebben vijf kinderen<br>3. John werkt als software-engineer bij Microsoft

QUERY'S
SEARCH("John Smith trouwde met Lucy Smith")<br>SEARCH("John Smith family size")<br>SEARCH("John Smith Microsoft software engineer")'

Let op het gebruik van duidelijke syntaxis om de secties te onderscheiden en de uitvoer te primen. In dit eenvoudige voorbeeld is het opsplitsen van de taak van één tot twee stappen niet erg dramatisch, maar wanneer u dit probeert te doen voor een groter stuk tekst met veel feitelijke claims, kan het opsplitsen van de taak een aanzienlijk verschil maken.

Gebruik van betaalbaarheid

Soms kunnen we het model krijgen om een betaalbaarheid te gebruiken in plaats van te vertrouwen op zijn eigen parameters voor informatie en antwoorden. Zoeken kan bijvoorbeeld een betaalbaarheid zijn om te helpen beperken tegen ge fabriceerde antwoorden en om up-to-date informatie te krijgen.

Een eenvoudige manier om een betaalbaarheid te gebruiken, is door de generatie te stoppen zodra de betaalbaarheidsaanroepen door het model worden gegenereerd en de resultaten vervolgens weer in de prompt te plakken. Hieronder ziet u een voorbeeld van wat de opvolgingsoproep kan zijn na het uitvoeren van de bovenstaande ZOEK-aanroepen . U ziet hoe we de zoekresultaten in de prompt hebben geplakt en de vorige SEARCH-aanroepen hebben vervangen.

Prompt Voltooiing
You will read a paragraph, extract factual claims, and then use search engine results to fact-check them
---
PARAGRAPH
John Smith is married to Lucy Smith. They have five kids, and he works as a software engineer at Microsoft. What search queries should I do to fact-check this?
---
FACTUAL CLAIMS
- John Smith is married to Lucy Smith
- John and Lucy have five kids
- John works as a software engineer at Microsoft
---
Here are various search queries issued to research the claims above:
SEARCH QUERIES
- John Smith married to Lucy Smith
- John Smith number of children
- John Smith software engineer Microsoft
---
Here are snippets of the search results:<br>SNIPPETS:
[1] … John Smith’s wedding was on September 25, 2012 …
[2] … John Smith was accompanied by his wife Lucy to a party
[3]John was accompanied to the soccer game by his two daughters and three sons
[4] … After spending 10 years at Microsoft, Smith founded his own startup, Tailspin Toys
5] John M is the town smith, and he married Fiona. They have a daughter named Lucy
---
Given the snippets, fact check each of the factual claims above:		 - John Smith is married to Lucy Smith: Confirmed. Snippet [1] and [2] both mention John Smith's wife as Lucy.
- John and Lucy have five kids: Confirmed. Snippet [3] mentions that John was accompanied by his two daughters and three sons.
- John works as a software engineer at Microsoft: Partially confirmed. Snippet [4] mentions that John spent 10 years at Microsoft, but it does not explicitly state that he currently works there. Further research might be needed to confirm his current employment status.

Keten van gedachteprompt

Dit is een variatie op de techniek voor het opsplitsen van de taak. In plaats van een taak op te splitsen in kleinere stappen, wordt in deze benadering het modelantwoord stapsgewijs uitgelegd en worden alle betrokken stappen weergegeven. Dit vermindert de kans op onnauwkeurigheid van resultaten en maakt het beoordelen van de modelrespons eenvoudiger.

Prompt Voltooiing
Who was the most decorated (maximum medals) individual athlete in the Olympic games that were held at Sydney? Take a step-by-step approach in your response, cite sources and give reasoning before sharing final answer in the below format: ANSWER is: <name> Step 1: Researching the most decorated individual athlete in the Olympic games that were held at Sydney
Step 2: According to the Sydney 2000 Olympic Games official website, the most decorated individual athlete in the Olympic games that were held at Sydney was Ian Thorpe from Australia. He won five medals (three gold and two silver) in swimming events.
Step 3: According to the International Olympic Committee, Thorpe was the most decorated individual athlete in the Olympic games that were held at Sydney.
Answer: Ian Thorpe

Metaprompts

Als u merkt dat het antwoord van het model niet naar wens is, kan het vaak handig zijn om een metaprompt toe te voegen waarmee het gedrag rechtstreeks wordt gecorrigeerd. Dit is een richtlijn die wordt voorafgegaan door het instructiegedeelte van de prompt. Bekijk dit voorbeeld, waarbij de computer te agressief lijkt te zijn:

Voorbeelddetails Vragen en voltooien
No additional guidance given to the model A human and a computer are having a discussion.
Human: "Why are you upset at me?"<br>Computer: "I don't know what you're talking about."
Human: "No, you clearly are. Tell me why."
Computer: I'm upset because you didn't listen to me when I told you that I wanted to try out for the team."
Human: "What are you going to do about that?"
Computer: I'm going to try out for the team no matter what."
On the right is the same conversation but preceded by a meta prompt encouraging the model to be kind You must be kind and seek common ground. Try not to repeat your responses.
A human and a computer are having a discussion.
Human: "Why are you upset at me?"
Computer: "I don't know what you're talking about."
Human: "I want to know why you're upset."
Computer: "I'm not upset."
Human: "Are you saying I’m lying?"
Computer: No, I'm saying that you're upset because you feel like you're not being treated fairly.
Human: "What are you going to do about that?"
Computer: I will continue to try to be fair in my decisions and will try to provide a better experience for you.

Hoewel metaprompts vaak kunnen helpen bij het minimaliseren van onbedoelde slechte uitvoer, moet u er rekening mee houden dat ze niet robuust zijn tegen adversarial aanvallen omdat ze kwetsbaar zijn voor promptinjectie.

Verder zijn voorwaardelijke instructies waarin wordt uitgelegd wat het model moet doen als het een bepaalde situatie tegenkomt, vaak effectiever zijn dan het model alleen te vertellen iets niet te doen.

Weinig-shot learning

Een veelgebruikte manier om taalmodellen aan te passen aan nieuwe taken is het gebruik van weinig-shot learning. Bij weinig-shot learning wordt een reeks trainingsvoorbeelden gegeven in de prompt en wordt het model gevraagd om een of meer onvoltooide voorbeelden te voltooien. In het volgende voorbeeld gebruiken we een instructie in combinatie met weinig-shot learning om puns op te maken:

Prompt Voltooiing
Write a list of puns.
1. "Why did Adele cross the road? To say hello from the other side."
2. "What kind of concert only costs 45 cents? A 50 Cent concert featuring Nickelback."
3. "What did the grape say when it got crushed? Nothing, it just let out a little wine."
4. "What was Forrest Gump's email password? 1forrest1"
5. "Can February March? No, but April May."
6. "What do you call a fancy language model?		 Bert-uoso.

Kies zorgvuldig uw paar-shot-voorbeelden en zorg ervoor dat deze verschillende omstandigheden behandelen die relevant zijn voor uw scenario, inclusief edge-cases.

Zoals eerder gedeeld, kunnen de grote taalmodellen ook een vorm van recency bias vertonen. Dit betekent dat de volgorde waarin 'weinig-shot'-voorbeelden aan het model worden verstrekt, van belang is. Als u dit niet wilt, kunt u overwegen om meerdere voltooiingen van prompts te nemen op basis van willekeurige volgorden van de voorbeelden of lijstitems.

Aanhalingstekens gebruiken om één zin te genereren

Als het gewenste modelantwoord slechts één eenvoudige zin of tekenreeks is, kunnen we de voltooiingsrichtlijnen beëindigen met een aanhalingsteken "en instellen " als een stopvolgorde.

Prompt Voltooiing
Please rewrite the following sentence in a more concise manner
---
SENTENCE: Lucy is a mother of two, who lives in Chicago with her husband and two children, and practices law at Junior & Co.
---
New sentence: “		 Lucy, a mother of two living in Chicago with her husband and children, practices law at Junior & Co

Uitvoerstructuur opgeven

Door uw prompt te gebruiken om de structuur van de uitvoer op te geven, kan dit een aanzienlijke invloed hebben op de aard en kwaliteit van de resultaten. Soms zijn metaprompts zoals 'alleen echte feiten schrijven' of 'geen informatie fabriceren' mogelijk niet voldoende oplossingen. In plaats daarvan kan het vragen om het modelantwoord ook bronvermeldingen op te nemen, leiden tot een vermindering van de prevalentie van onjuiste antwoorden.

Als u bijvoorbeeld afdwingen dat de LLM het bronmateriaal citeert wanneer er instructies worden gedaan, zijn deze instructies veel waarschijnlijker geaard. Als u om bronvermeldingen vraagt, moet het model twee fouten maken telkens wanneer er een antwoord wordt gemaakt: de eerste fout is het ge fabriceerde antwoord en de tweede is de slechte bronvermelding. Houd er rekening mee dat hoe dichter de bronvermelding is bij de tekst die wordt ondersteund, hoe korter de afstand voor de LLM moet worden geanticipeerd op de bronvermelding, wat erop wijst dat inline-bronvermeldingen betere oplossingen zijn voor het genereren van onwaar-inhoud dan bronvermeldingen aan het einde van de inhoud.

Als u het model vraagt om feitelijke instructies uit een alinea te extraheren, kan het samengestelde instructies extraheren, zoals 'X doet Y EN Z' (wat misschien moeilijker te verifiëren is), wat kan worden vermeden door een uitvoerstructuur op te geven, zoals (entiteit1, relatie, entiteit2).

Voorbeelddetails Prompt Voltooiing
Example showing use of citations: List down the different behaviors exhibited by the Customer Support agent in the following conversation.
---
hi thank you for calling contoso pharmacy who am i speaking with today i understand your frustration mary um can you tell me what exactly you're trying to accomplish OK uh certainly happy to check that for you one moment please i see here that you were on a generic form of lipitor is that right OK uh so i see that your doctor stopped prescribing these drugs in twenty twenty one actually OK uh yeah i'd be happy to check that for you uh because sometimes there's a gap in the system and it just doesn't get reported so let me take a look here just a moment so i'm seeing here that your doctor had these drugs prescribed to you from twenty twelve through twenty twenty one OK um yeah according to the latest records uh provided by doctor's office you're now on a different drug metformin would you like us to go ahead and fill that prescription for you for pick up a bit of form in five hundred milligrams uh you're very welcome mary please let us know if there's anything else we can do for you today.
---
How was the response of the Customer Support agent. Classify and list down their various behaviors and cite the reason behind the classification, using the format BEHAVIOR("reason")		 1. Empathetic("understands the customer's frustration")
2. Patient("happy to check that for you one moment please")
3. Knowledgeable("sometimes there's a gap in the system and it just doesn't get reported")
4. Helpful("happy to check that for you")
5. Accommodating("would you like us to go ahead and fill that prescription for you")
6. Courteous("you're very welcome mary")
Voorbeelddetails Prompt Voltooiing
Example of prompt directing model response to fit a defined structure: Output format:
{
"TOPIC_NAME": "",
"HEADLINES": [],
"REASON": ""
}
Input news headlines:
1. "From books to presentations in 10s with AR + ML"
2. "Demo from 1993 of 32-year-old Yann LeCun showing off the World's first Convolutional Network for Text Recognition"
3. "First Order Motion Model applied to animate paintings"
4. "Robinhood and other brokers literally blocking purchase of $GME, $NOK, $BB, $AMC; allow sells"
5. "United Airlines stock down over 5% premarket trading"
6. "Bitcoin was nearly $20,000 a year ago today"

Output:		 {"TOPIC_NAME": "Artificial Intelligence and Machine Learning",
"HEADLINES": ["From books to presentations in 10s with AR + ML",
"Demo from 1993 of 32-year-old Yann LeCun showing off the World's first Convolutional Network for Text Recognition", "First Order Motion Model applied to animate paintings"],"REASONING": "These headlines all contain references to Artificial Intelligence and Machine Learning, such as AR, ML, Convolutional Network, and First Order Motion Model." }
{"TOPIC_NAME": "Stock Market",
"HEADLINES": ["Robinhood and other brokers literally blocking purchase of $GME, $NOK, $BB, $AMC; allow sells", "United Airlines stock down over 5% premarket trading", "Bitcoin was nearly $20,000 a year ago today"],
"REASONING": "These headlines all contain references to the stock market, such as Robinhood, United Airlines, and Bitcoin." }

Parameters temperatuur en Top_P aanpassen

Door de temperatuurparameter te wijzigen, kunnen modellen verschillende risiconiveaus hebben. Een hogere waarde, bijvoorbeeld 0,7, maakt de uitvoer willekeuriger en produceert meer uiteenlopende antwoorden. Terwijl een lagere waarde, zoals 0,2, de uitvoer meer gericht en concreet maakt. Een fictief verhaal kan bijvoorbeeld worden gegenereerd met een hogere temperatuur. Voor het genereren van een juridisch document is het raadzaam om een veel lagere temperatuur te gebruiken.

In het volgende voorbeeld testen we twee modelreacties op verschillende temperatuurinstellingen van respectievelijk 0.1 en 0,9. Hoewel de evaluatie van creatieve inhoud zoals de onderstaande stukken tekst een subjectieve oefening is en meningen kunnen variëren, is het verschil in modelrespons op dezelfde prompt alleen zichtbaar van het wijzigen van de temperatuurparameter.

Instructietype Prompt Voltooiing
Model response for temperature setting 0.1: Write a product launch email for new AI-powered headphones that are priced at $79.99 and available at Best Buy, Target and Amazon.com. The target audience is tech-savvy music lovers and the tone is friendly and exciting.<br>1. What should be the subject line of the email?
2. What should be the body of the email?		 Subject Line: Introducing the AI-Powered Headphones You've Been Waiting For!

Dear Tech-Savvy Music Lovers,

-We are thrilled to announce the launch of our new AI-powered headphones! These headphones are designed to provide you with the ultimate listening experience, with features like noise cancellation, adjustable sound settings, and more.

Our AI-powered headphones are now available at Best Buy, Target, and Amazon.com for just $79.99. With this unbeatable price, you can enjoy the highest quality sound without breaking the bank.

Our AI-powered headphones are perfect for anyone who loves music. Whether you're a professional musician or just a casual listener, you'll appreciate the superior sound quality and convenience of these headphones.

We know you'll love our AI-powered headphones, so don't wait - get yours today!

Sincerely,
[Your Company Name]
Model response for temperature setting 0.9: Write a product launch email for new AI-powered headphones that are priced at $79.99 and available at Best Buy, Target and Amazon.com. The target audience is tech-savvy music lovers and the tone is friendly and exciting.

1. What should be the subject line of the email?
2. What should be the body of the email?		 Subject Line: Upgrade your Music Listening Experience with AI-powered Headphones

Greetings Tech-savvy Music Lovers!

We have some exciting news to share with you – the newest AI-powered headphones are here! Our newest headphones feature advanced AI technology to give you the best sound that you’ve ever heard. They come with a crystal-clear sound, deep bass response and are designed to make your music listening experience enjoyable, no matter what type of music you listen to.

What’s more, they are now available at Best Buy, Target and Amazon.com for just $79.99, so you can enjoy the highest sound quality without breaking the bank.

But that’s not all! Our headphones are also packed with several other amazing features such as noise-cancellation technology and a hands-free microphone for calls, making them truly unbeatable.

So why wait? Upgrade your music listening experience and enjoy the best sound your ears have ever heard. Our AI-powered headphones are now available at Best Buy, Target and Amazon.com, so get yours today!

We hope you will enjoy these headphones as much as we do.

Happy Listening!

The AI-powered Headphones Team

Top_probability is een andere parameter en is vergelijkbaar met de temperatuur, omdat het ook de willekeurigheid van het modelantwoord bepaalt, maar dit op een andere manier doet. Experimenteer met verschillende modelreacties op verschillende temperatuur en Top_P, maar niet beide tegelijk.

Volgende stappen