Výber modelu a nastavenia teploty
Keď v nástroji na vytváranie výziev vytvoríte akciu výzvy, panel napravo obsahuje sekciu Nastavenia . Táto sekcia vám umožňuje nastaviť tieto parametre:
- Verzia generatívneho modelu AI
- Teplota
Tento článok skúma vplyv týchto parametrov.
Rozbaľovacia ponuka vám umožňuje vybrať si medzi generatívnymi modelmi AI, ktoré generujú odpoveď na váš vlastný príkaz.
Predvolený model od novembra 2024 je GPT 4o Mini (všeobecná dostupnosť alebo GA). Je možné použiť aj výkonnejší model GPT 4o (GA). Tieto presné menšie verzie týchto modelov sa môžu zmeniť.
Keď použijete rýchle akcie v Power Apps alebo Power Automate, spotrebúvajú AI Builder kredity.
Poznámka
Staršie výzvy vytvorené v nástroji na vytváranie výziev, ktoré sa spoliehajú na tento predvolený model modelu GPT 3.5, boli alebo budú automaticky aktualizované na model GPT 4o Mini. Vládny cloud naďalej používa model GPT 3.5 až do konca novembra 2024.
Vyberte si medzi modelmi na základe stavu a licenčných pravidiel.
Model GPT | Status | Licenčné pravidlá | Funkcie | Dostupnosť regiónu |
---|---|---|---|---|
GPT 4o Mini | GA – Predvolený model | Spotrebuje kredity v Power Apps a Power Automate. Ďalšie informácie: Power Platform Príručka o licenciách | Vyškolení na údajoch do decembra 2023. Kontext povoľuje až 128 000 tokenov. | Dostupnosť funkcií podľa regiónov pre výzvy |
GPT 4 | GA | Spotrebuje kredity v Power Apps a Power Automate. Ďalšie informácie: Power Platform Príručka o licenciách | GPT 4o má znalosti do októbra 2023 a má dĺžku kontextu 128 000 tokenov. | Dostupnosť funkcií podľa regiónov pre výzvy |
Vyberte si medzi modelom na základe schopností a scenárov.
Faktory | GPT-4o Mini | GPT-4o |
---|---|---|
náklady | Nižšie, nákladovo efektívnejšie | Vyššia, prémiová cena |
Výkon | Dobré pre väčšinu úloh | Vynikajúce pre zložité úlohy |
Rýchlosť | Rýchlejšie spracovanie | Môže to byť pomalšie kvôli zložitosti |
Prípady použitia | Sumarizácia, informačné úlohy | Úlohy komplexnej analýzy dát, uvažovania a tvorby obsahu |
Ak potrebujete cenovo výhodné riešenie pre stredne zložité úlohy, máte obmedzené výpočtové zdroje alebo požadujete rýchlejšie spracovanie, vyberte si GPT-4o Mini. Je ideálny pre projekty s rozpočtovými obmedzeniami a aplikácie, ako je zákaznícka podpora alebo efektívna analýza kódu.
Ak máte čo do činenia s veľmi zložitými, multimodálnymi úlohami, ktoré si vyžadujú vynikajúci výkon a podrobnú analýzu, vyberte si GPT-4o. Je to lepšia voľba pre veľké projekty, kde je rozhodujúca presnosť a pokročilé možnosti. Ďalší scenár, kde je to lepšia voľba, je, keď máte rozpočet a výpočtové zdroje na jeho podporu. GPT-4o je tiež vhodnejšie pre dlhodobé projekty, ktorých zložitosť môže časom rásť.
Výzvy AI nespotrebúvajú AI Builder kredity, keď sú v kontexte Copilot Studio, ale spotrebúvajú správy, keď sú postavené na modeli GA GPT.
Ďalšie informácie o využívaní správ nájdete v Power Platform Príručke licencovania.
Posuvník umožňuje vybrať teplotu generatívneho modelu AI. Pohybuje sa medzi 0 a 1 a usmerňuje generatívny model AI o tom, koľko kreativity (1) v porovnaní s deterministickou odpoveďou (0) by mal poskytnúť.
Teplota je parameter, ktorý riadi náhodnosť výstupu generovaného modelom AI. Nižšia teplota vedie k predvídateľnejším a konzervatívnejším výstupom. Pre porovnanie, vyššia teplota umožňuje väčšiu kreativitu a rôznorodosť odpovedí. Je to spôsob, ako doladiť rovnováhu medzi náhodnosťou a determinizmom vo výstupe modelu.
Štandardne je teplota 0, ako v predtým vytvorených výzvach.
Teplota | Funkcie | Použiť v |
---|---|---|
0 | Predvídateľnejšie a konzervatívnejšie výstupy. Odpovede sú konzistentnejšie. |
Výzvy, ktoré vyžadujú vysokú presnosť a menšiu variabilitu. |
1 | Viac kreativity a rozmanitosti v odpovediach. Rozmanitejšie a niekedy aj inovatívnejšie odpovede. |
Výzvy, ktoré vytvárajú nový predpripravený obsah |
Aj keď nastavenie teploty môže ovplyvniť výkon modelu, nezaručuje konkrétny výsledok. Odozvy AI sú vo svojej podstate pravdepodobnostné a môžu sa meniť aj pri rovnakom nastavení teploty.