Modelselectie en temperatuurinstellingen
Wanneer u een promptactie maakt in de opbouwfunctie voor prompts, bevat het paneel aan de rechterkant een sectie met instellingen. In deze sectie kunt u deze parameters instellen:
- Versie van het generatieve AI-model
- Temperatuur
In dit artikel wordt de impact van deze parameters onderzocht.
Met het vervolgkeuzemenu kunt u kiezen uit de generatieve AI-modellen waarmee het antwoord op uw aangepaste prompt wordt gegenereerd.
Het standaardmodel is per november 2024 GPT-4o Mini (algemene beschikbaarheid, of GA). Het is ook mogelijk om het krachtigere GPT-4o model (GA) te gebruiken. Deze exacte secundaire versies van deze modellen kunnen worden gewijzigd.
Wanneer u promptacties in Power Apps of Power Automate gebruikt, verbruikt u AI Builder-tegoeden.
Notitie
Oudere prompts die in de promptbuilder zijn gemaakt en die afhankelijk zijn van dit standaardmodel (het GPT-3.5-model) zijn of worden automatisch geüpgraded naar het GPT-4o Mini-model. De overheidscloud blijft tot eind november 2024 gebruikmaken van het GPT-3.5-model.
Kies tussen de modellen op basis van status en licentieregels.
GPT-model | Status | Regels voor licenties | Functies | Regionale beschikbaarheid |
---|---|---|---|---|
GPT-4o Mini | GA - standaardmodel | Verbruikt tegoeden in Power Apps en Power Automate. Meer informatie: Licentie-guide voor Power Platform | Getraind op gegevens tot en met december 2023. Context toegestaan tot 128k tokens. | Beschikbaarheid van functies per regio voor prompts |
GPT-4 | GA | Verbruikt tegoeden in Power Apps en Power Automate. Meer informatie: Licentie-guide voor Power Platform | GPT-4o heeft kennis tot oktober 2023 en heeft een contextlengte van 128k tokens. | Beschikbaarheid van functies per regio voor prompts |
Kies een model op basis van mogelijkheden en scenario's.
Factoren | GPT-4o Mini | GPT-4o |
---|---|---|
Kosten | Lagere kosten | Hogere prijzen |
Prestaties | Geschikt voor de meeste taken | Superieur voor complexe taken |
Snelheid | Snellere verwerking | Kan langzamer zijn vanwege de complexiteit |
Gebruikscases | Samenvatting, informatietaken | Complexe gegevensanalyse, redenering en het maken van content |
Wanneer u op zoek bent naar een kosteneffectieve oplossing voor gemiddeld complexe taken, beperkte rekenkracht of snellere verwerking vereist, kiest u voor GPT-4o Mini. Het is ideaal voor projecten met budgetbeperkingen en toepassingen zoals klantenondersteuning of efficiënte codeanalyse.
Wanneer u te maken hebt met zeer complexe, multimodale taken die superieure prestaties en gedetailleerde analyses vereisen, kiest u voor GPT-4o. Het is de betere keuze voor grootschalige projecten waarbij nauwkeurigheid en geavanceerde mogelijkheden cruciaal zijn. Een ander scenario waarin het een betere keuze is, is wanneer u over het budget en de rekenkracht beschikt om het te ondersteunen. GPT-4o is ook beter voor langetermijnprojecten waarvan de complexiteit in de loop van de tijd kan toenemen.
AI-prompts verbruiken geen AI Builder-tegoeden in de context van Copilot Studio, maar verbruiken berichten wanneer ze zijn gebouwd op basis van een GA GPT-model.
Meer informatie over berichtverbruik vindt u in de licentiehandleiding voor Power Platform.
Met de schuifregelaar kunt u de temperatuur van het generatieve AI-model selecteren. Dit varieert tussen 0 en 1, en geeft richting aan het generatieve AI-model over hoeveel creativiteit (1) versus deterministisch antwoord (0) het moet bieden.
Temperatuur is een parameter waarmee de willekeur wordt bepaald van de output die door het AI-model wordt gegenereerd. Een lagere temperatuur resulteert in meer voorspelbare en conservatievere uitvoer. Ter vergelijking: een hogere temperatuur zorgt voor meer creativiteit en diversiteit in de reacties. Het is een manier om de balans tussen willekeur en determinisme in de uitvoer van het model te verfijnen.
Standaard is de temperatuur 0, zoals in eerder gemaakte prompts.
Temperatuur | Functionaliteit | Gebruiken in |
---|---|---|
0 | Voorspelbaardere en conservatievere uitvoer. De reacties zijn consistenter. |
Prompts die een hoge nauwkeurigheid en minder variabiliteit vereisen. |
0 | Meer creativiteit en diversiteit in de reacties. Meer gevarieerde en soms innovatievere reacties. |
Prompts die nieuwe kant-en-klare inhoud creëren |
Hoewel het aanpassen van de temperatuur de uitvoer van het model kan beïnvloeden, garandeert dit geen specifiek resultaat. De reacties van de AI zijn inherent probabilistisch en kunnen zelfs bij dezelfde temperatuurinstelling variëren.