Modellauswahl und Temperatureinstellungen
Wenn Sie im Promptgenerator eine benutzerdefinierte Aktion erstellen, enthält der Bereich auf der rechten Seite einen Abschnitt Einstellungen. In diesem Abschnitt können Sie die folgenden Parameter festlegen:
- Version des generativen KI-Modells
- Temperatur
Dieser Artikel untersucht die Auswirkungen dieser Parameter.
Über das Dropdown-Menü können Sie zwischen generativen KI-Modellen auswählen, die die Antwort auf Ihre benutzerdefinierte Eingabeaufforderung generieren.
Das Standardmodell ab November 2024 ist GPT 4o Mini (allgemeine Verfügbarkeit oder GA). Es ist möglich, auch das leistungsstärkere GPT 4o-Modell (GA) zu verwenden. Diese exakten Unterversionen dieser Modelle können sich ändern.
Wenn Sie Promptaktionen in Power Apps oder Power Automate verwenden, verbrauchen Sie AI Builder-Guthaben.
Hinweis
Ältere Eingabeaufforderungen, die im Prompt Builder erstellt wurden und auf diesem Standardmodell GPT 3.5 basieren, wurden oder werden automatisch auf das GPT 4o Mini-Modell aktualisiert. In der Government Cloud wird das Modell GPT 3.5 bis Ende November 2024 weiterhin verwendet.
Wählen Sie zwischen den Modellen basierend auf Status und Lizenzierungsregeln.
GPT-Modell | Status | Lizenzierungsregeln | Funktionalitäten | Regionale Verfügbarkeit |
---|---|---|---|---|
GPT 4o Mini | GA - Standardmodell | Verbraucht Guthaben in Power Apps und Power Automate. Weitere Informationen: Power Platform Lizenzleitfaden | Trainiert mit Daten bis Dezember 2023. Kontext erlaubt bis zu 128.000 Tokens. | Featureverfügbarkeit für Prompts nach Regionen |
GPT 4 | AV | Verbraucht Guthaben in Power Apps und Power Automate. Weitere Informationen: Power Platform Lizenzleitfaden | GPT 4o verfügt über Wissen bis Oktober 2023 und hat eine Kontextlänge von 128.000 Tokens. | Featureverfügbarkeit für Prompts nach Regionen |
Wählen Sie zwischen dem Modell basierend auf Funktionen und Szenarien.
Faktoren | GPT-4o Mini | GPT-4o |
---|---|---|
Kosten | Niedrigere Kosten, kostengünstiger | Höhere Kosten, Premium-Preise |
Leistung | Gut für die meisten Aufgaben | Überlegenheit bei komplexen Aufgaben |
Geschwindigkeit | Schnellere Verarbeitung | Kann aufgrund der Komplexität langsamer sein |
Anwendungsfälle | Aufgaben bezüglich Zusammenfassung, Informationsverarbeitung | Komplexe Aufgaben in den Bereichen Datenanalyse, Argumentation und Erstellung von Inhalten |
Wenn Sie eine kostengünstige Lösung für mittelkomplexe Aufgaben benötigen, über begrenzte Rechenressourcen verfügen oder eine schnellere Verarbeitung benötigen, sollten Sie sich für GPT-4o Mini entscheiden. Es ist ideal für Projekte mit Budgetbeschränkungen und Anwendungen wie Kundensupport oder effiziente Codeanalyse.
Wenn Sie es mit hochkomplexen, multimodalen Aufgaben zu tun haben, die eine überragende Leistung und detaillierte Analyse erfordern, wählen Sie GPT-4o. Es ist die bessere Wahl für Großprojekte, bei denen Genauigkeit und erweiterte Funktionen entscheidend sind. Ein anderes Szenario, in dem es eine bessere Wahl ist, ist, wenn Sie über das Budget und die Rechenressourcen verfügen, um es zu unterstützen. GPT-4o ist auch für langfristige Projekte vorzuziehen, die im Laufe der Zeit an Komplexität zunehmen können.
KI-Eingabeaufforderungen verbrauchen nicht AI Builder-Guthaben im Rahmen von Copilot Studio, verbrauchen aber Nachrichten, wenn sie auf einem GA GPT-Modell basieren.
Weitere Informationen zum Nachrichtenverbrauch finden Sie in der Power Platform-Lizenzierungsanleitung.
Mit dem Schieberegler können Sie die Temperatur des generativen KI-Modells auswählen. Er variiert zwischen 0 und 1 und gibt dem generativen KI-Modell vor, wie viel Kreativität (1) im Vergleich zur deterministischen Antwort (0) es liefern soll.
Die Temperatur ist ein Parameter, der die Zufälligkeit der vom KI-Modell generierten Ausgabe steuert. Eine niedrigere Temperatur führt zu vorhersehbareren und konservativeren Ergebnissen. Im Vergleich dazu ermöglicht eine höhere Temperatur mehr Kreativität und Vielfalt bei den Reaktionen. Auf diese Weise lässt sich das Gleichgewicht zwischen Zufälligkeit und Determinismus in der Ausgabe des Modells feinabstimmen.
Standardmäßig ist die Temperatur 0, wie in zuvor erstellten Eingabeaufforderungen.
Temperatur | Funktionalität | Verwenden in |
---|---|---|
0 | Vorhersehbarere und konservativere Ergebnisse. Die Antworten sind konsistenter. |
Eingabeaufforderungen, die eine hohe Genauigkeit und weniger Variabilität erfordern. |
1 | Mehr Kreativität und Vielfalt in den Antworten. Vielfältigere und manchmal innovativere Antworten. |
Eingabeaufforderungen, die sofort einsatzbereite neue Inhalte erstellen |
Zwar kann die Anpassung der Temperatur die Ausgabe des Modells beeinflussen, garantiert jedoch kein bestimmtes Ergebnis. Die Antworten der KI sind von Natur aus probabilistisch und können selbst bei derselben Temperatureinstellung variieren.