Čítať v angličtine

Zdieľať cez


Výber modelu a nastavenia teploty

Keď v nástroji na vytváranie výziev vytvoríte akciu výzvy, panel napravo obsahuje sekciu Nastavenia . Táto sekcia vám umožňuje nastaviť tieto parametre:

  • Verzia generatívneho modelu AI
  • Teplota

Tento článok skúma vplyv týchto parametrov.

Generatívne verzie modelu AI

Rozbaľovacia ponuka vám umožňuje vybrať si medzi generatívnymi modelmi AI, ktoré generujú odpoveď na váš vlastný príkaz.

Predvolený model od novembra 2024 je GPT 4o Mini (všeobecná dostupnosť alebo GA). Je možné použiť aj výkonnejší model GPT 4o (GA). Tieto presné menšie verzie týchto modelov sa môžu zmeniť.

Keď použijete rýchle akcie v Power Apps alebo Power Automate, spotrebúvajú AI Builder kredity.

Poznámka

Staršie výzvy vytvorené v nástroji na vytváranie výziev, ktoré sa spoliehajú na tento predvolený model modelu GPT 3.5, boli alebo budú automaticky aktualizované na model GPT 4o Mini. Vládny cloud naďalej používa model GPT 3.5 až do konca novembra 2024.

Vyberte model

Vyberte si medzi modelmi na základe stavu a licenčných pravidiel.

Model GPT Status Licenčné pravidlá Funkcie Dostupnosť regiónu
GPT 4o Mini GA – Predvolený model Spotrebuje kredity v Power Apps a Power Automate. Ďalšie informácie: Power Platform Príručka o licenciách Vyškolení na údajoch do decembra 2023. Kontext povoľuje až 128 000 tokenov. Dostupnosť funkcií podľa regiónov pre výzvy
GPT 4 GA Spotrebuje kredity v Power Apps a Power Automate. Ďalšie informácie: Power Platform Príručka o licenciách GPT 4o má znalosti do októbra 2023 a má dĺžku kontextu 128 000 tokenov. Dostupnosť funkcií podľa regiónov pre výzvy

Vyberte si medzi modelom na základe schopností a scenárov.

Porovnanie GPT-4o Mini a GPT-4o

Faktory GPT-4o Mini GPT-4o
náklady Nižšie, nákladovo efektívnejšie Vyššia, prémiová cena
Výkon Dobré pre väčšinu úloh Vynikajúce pre zložité úlohy
Rýchlosť Rýchlejšie spracovanie Môže to byť pomalšie kvôli zložitosti
Prípady použitia Sumarizácia, informačné úlohy Úlohy komplexnej analýzy dát, uvažovania a tvorby obsahu

Rozprávanie o rozhodnutí

Ak potrebujete cenovo výhodné riešenie pre stredne zložité úlohy, máte obmedzené výpočtové zdroje alebo požadujete rýchlejšie spracovanie, vyberte si GPT-4o Mini. Je ideálny pre projekty s rozpočtovými obmedzeniami a aplikácie, ako je zákaznícka podpora alebo efektívna analýza kódu.

Ak máte čo do činenia s veľmi zložitými, multimodálnymi úlohami, ktoré si vyžadujú vynikajúci výkon a podrobnú analýzu, vyberte si GPT-4o. Je to lepšia voľba pre veľké projekty, kde je rozhodujúca presnosť a pokročilé možnosti. Ďalší scenár, kde je to lepšia voľba, je, keď máte rozpočet a výpočtové zdroje na jeho podporu. GPT-4o je tiež vhodnejšie pre dlhodobé projekty, ktorých zložitosť môže časom rásť.

Používanie výziev AI v kontexte Microsoft Copilot Studio

Výzvy AI nespotrebúvajú AI Builder kredity, keď sú v kontexte Copilot Studio, ale spotrebúvajú správy, keď sú postavené na modeli GA GPT.

Ďalšie informácie o využívaní správ nájdete v Power Platform Príručke licencovania.

Teplota

Posuvník umožňuje vybrať teplotu generatívneho modelu AI. Pohybuje sa medzi 0 a 1 a usmerňuje generatívny model AI o tom, koľko kreativity (1) v porovnaní s deterministickou odpoveďou (0) by mal poskytnúť.

Teplota je parameter, ktorý riadi náhodnosť výstupu generovaného modelom AI. Nižšia teplota vedie k predvídateľnejším a konzervatívnejším výstupom. Pre porovnanie, vyššia teplota umožňuje väčšiu kreativitu a rôznorodosť odpovedí. Je to spôsob, ako doladiť rovnováhu medzi náhodnosťou a determinizmom vo výstupe modelu.

Štandardne je teplota 0, ako v predtým vytvorených výzvach.

Teplota Funkcie Použiť v
0 Predvídateľnejšie a konzervatívnejšie výstupy.
Odpovede sú konzistentnejšie.
Výzvy, ktoré vyžadujú vysokú presnosť a menšiu variabilitu.
1 Viac kreativity a rozmanitosti v odpovediach.
Rozmanitejšie a niekedy aj inovatívnejšie odpovede.
Výzvy, ktoré vytvárajú nový predpripravený obsah

Aj keď nastavenie teploty môže ovplyvniť výkon modelu, nezaručuje konkrétny výsledok. Odozvy AI sú vo svojej podstate pravdepodobnostné a môžu sa meniť aj pri rovnakom nastavení teploty.