Wybór modelu i ustawienia temperatury
Gdy w konstruktorze monitów zostanie wyświetlone działanie niestandardowe, panel po prawej stronie zawiera sekcję Ustawienia. W tej sekcji można ustawić następujące parametry:
- Wersja modelu generatywnej AI
- Temperatura
W tym artykule badamy wpływ tych parametrów.
Menu rozwijane umożliwia wybranie pozycji spośród generowanie modeli AI, które generują odpowiedź na monit niestandardowy.
Domyślnym modelem od listopada 2024 r. jest GPT 4o Mini (ogólna dostępność lub GA). Możliwe jest również korzystanie z bardziej wydajnego modelu GPT 4o (GA). Dokładne pomniejsze wersje tych modeli mogą ulec zmianie.
W przypadku korzystania z akcji prompt w Power Apps lub Power Automate, zużywają one kredyty AI Builder.
Uwaga
Starsze monity utworzone w kreatorze monitów, które opierają się na domyślnym modelu GPT 3.5, zostały lub zostaną automatycznie zaktualizowane do modelu GPT 4o Mini. Chmura rządowa nadal korzysta z modelu GPT 3.5 do końca listopada 2024 roku.
Do wyboru są modele oparte na stanie, regułach licencjonowania.
Model GPT | Status | Reguły licencjonowania | Funkcje | Dostępność w regionach |
---|---|---|---|---|
GPT 4o Mini | Ogólnie dostępny — model domyślny | Zużywa środki w Power Apps i Power Automate. Więcej informacji: Przewodnik licencjonowania Power Platform | Szkolony na danych do grudnia 2023 r. Kontekst dozwolony do 128 000 tokenów. | Dostępność funkcji według regionów dla promptów |
GPT 4 | Ogólna dostępność | Zużywa środki w Power Apps i Power Automate. Więcej informacji: Przewodnik licencjonowania Power Platform | GPT 4o ma wiedzę do października 2023 r. i ma długość kontekstu 128 tys. tokenów. | Dostępność funkcji według regionów dla promptów |
Wybierz model w oparciu o możliwości i scenariusze.
Czynniki | GPT-4o Mini | GPT-4o |
---|---|---|
Koszt | Niższy, bardziej ekonomiczny | Wyższe ceny premium |
Wydajność | Nadaje się do większości zadań | Doskonały do złożonych zadań |
Szybkość | Szybsze przetwarzanie | Może być wolniejszy ze względu na złożoność |
Przypadki użycia | Podsumowanie, zadania informacyjne | Złożone zadania związane z analizą danych, rozumowaniem i tworzeniem treści |
Jeśli potrzebujesz ekonomicznego rozwiązania do umiarkowanie złożonych zadań, masz ograniczone zasoby obliczeniowe lub potrzebujesz szybszego przetwarzania, wybierz GPT-4o Mini. Jest to idealne rozwiązanie dla projektów z ograniczonym budżetem i zastosowań takich jak obsługa klienta lub wydajna analiza kodu.
Jeśli masz do czynienia z bardzo złożonymi, multimodalnymi zadaniami, które wymagają doskonałej wydajności i szczegółowej analizy, wybierz GPT-4o. Jest to lepszy wybór w przypadku dużych projektów, w których dokładność i zaawansowane możliwości mają kluczowe znaczenie. Innym scenariuszem, w którym lepszym wyborem jest budżet i zasoby obliczeniowe, aby go obsługiwać. GPT-4o jest również preferowany w przypadku długoterminowych projektów, które z czasem mogą stawać się coraz bardziej złożone.
Monity AI nie zużywają środków AI Builder w kontekście Copilot Studio, ale zużywają komunikaty, gdy są one wbudowane w ogólnodostępny model GPT.
Aby dowiedzieć się więcej o zużywaniu komunikatów, przejdź do Przewodnika licencjonowania Power Platform.
Suwak pozwala wybrać temperaturę w modelu generatywnej AI. Różni się ona między wartościami 0 i 1, i prowadzi model generatywnej AI w zakresie tego, jaką kreatywność (1) i poziom determinizmu (0) powinna zapewniać odpowiedź.
Temperatura to parametr sterujące losowym parametrem wyjściowym wygenerowanym przez model AI. Obniżenie temperatury powoduje, że wyniki pracy są bardziej przewidywalne i konserwatywne. Dla porównania wysoka temperatura pozwala na większą kreatywność i różnorodność w odpowiedziach. Jest to sposób na dostrojenie równowagi między losowością i determinizmem wartości wyjściowej modelu.
Domyślnie wartość temperatury ma ustawienie 0, tak jak w utworzonych wcześniej monitach.
Temperatura | Funkcje | Używanie w usłudze |
---|---|---|
0 | Bardziej przewidywalne i konserwatywne wartości wyjściowe. Odpowiedzi są bardziej spójne. |
Monity wymagające wysokiej dokładności i mniejszej zmienności. |
1 | Większa kreatywność i różnorodność w odpowiedziach. Bardziej zróżnicowane i czasami bardziej innowacyjne odpowiedzi. |
Monity tworzące nową, gotową zawartość |
Korygowanie temperatury wpływa na wydajność modelu, ale nie gwarantuje określonego wyniku. Odpowiedzi AI są z natury probabilistyczne i mogą się różnić nawet w przypadku tego samego ustawienia temperatury.