Az Azure OpenAI Service költségeinek kezelésére vonatkozó terv
Ez a cikk azt ismerteti, hogyan tervezheti meg és kezelheti az Azure OpenAI szolgáltatás költségeit. A szolgáltatás üzembe helyezése előtt az Azure díjszabási kalkulátorával megbecsülheti az Azure OpenAI költségeit. Később az Azure-erőforrások üzembe helyezésekor tekintse át a becsült költségeket. Miután megkezdte az Azure OpenAI-erőforrások használatát, költségkezelési funkciókkal állíthatja be a költségvetéseket és figyelheti a költségeket.
Áttekintheti az előrejelzett költségeket és a költségtrendeket is, hogy azonosítsa azokat a területeket, ahol esetleg cselekedni szeretne. Az Azure OpenAI szolgáltatás költségei csak az Azure-számla havi költségeinek egy részét képezik. Bár ez a cikk az Azure OpenAI költségeinek tervezéséről és kezeléséről szól, az Azure-előfizetésben használt összes Azure-szolgáltatásért és erőforrásért, beleértve a harmadik féltől származó szolgáltatásokat is.
Előfeltételek
A Cost Management költségelemzése a legtöbb Azure-fióktípust támogatja, de nem mindegyiket. A támogatott fióktípusok teljes listáját lásd: A Cost Management adatainak értelmezése. A költségadatok megtekintéséhez legalább olvasási hozzáférésre van szüksége egy Azure-fiókhoz. További információért az Azure Cost Management adataihoz való hozzáférés hozzárendeléséről: Adatokhoz való hozzáférés hozzárendelése.
Költségek becslése az Azure OpenAI használata előtt
Az Azure-díjkalkulátor használatával megbecsüli az Azure OpenAI használatának költségeit.
Az Azure OpenAI teljes számlázási modelljének ismertetése
Az Azure OpenAI szolgáltatás olyan Azure-infrastruktúrán fut, amely új erőforrások üzembe helyezésekor költségekkel jár. Előfordulhatnak egyéb infrastruktúraköltségek is, amelyek felmerülhetnek. Az alábbi szakaszok az Azure OpenAI szolgáltatás díjának módját ismertetik.
Alapsorozatok és kódsorozatok modelljei
Az Azure OpenAI alapsorozatok és kódsorozatok modelljeiért 1000 tokenenként kell fizetnie. A költségek a választott modellsorozattól függően változnak: Ada, Babbage, Curie, Davinci vagy Code-Cushman.
Az Azure OpenAI-modellek a jogkivonatokra lebontva értelmezik és dolgozzák fel a szöveget. A viszonyítás kedvéért egy token körülbelül négy karakterből áll egy tipikus angol szövegben.
A tokenek költségei a bemenetre és a kimenetre is érvényesek. Tegyük fel például, hogy rendelkezik egy 1000 tokenes JavaScript-kódmintával, amelyet egy Azure OpenAI-modellre kér a Pythonra való konvertáláshoz. Körülbelül 1000 jogkivonatot kell fizetnie az elküldött kezdeti bemeneti kérelemért, és 1000 további jogkivonatot a kimenetért, amely összesen 2000 jogkivonat esetén érkezett válaszként.
A gyakorlatban az ilyen típusú befejezési hívás esetében a token bemenete/kimenete nem lenne tökéletesen 1:1. Az egyik programozási nyelvről a másikra való átalakítás több tényezőtől függően hosszabb vagy rövidebb kimenetet eredményezhet. Ilyen tényező a paraméterhez max_tokens rendelt érték.
Alapsorozat- és Codex-sorozat finomhangolt modelljei
A finomhangolt Azure OpenAI-modellekért három tényező alapján kell fizetni:
- Betanítási órák
- Üzemeltetési órák
- Következtetés 1000 jogkivonatonként
Az üzemeltetési órák költségeiről fontos tisztában lenni, mivel a finomhangolt modell üzembe helyezése után továbbra is óránkénti költséggel jár, függetlenül attól, hogy aktívan használja-e. A modell költségeinek pontos monitorozása.
Fontos
Ha a testreszabott modell üzembe helyezése után az üzembe helyezés 15 napnál hosszabb ideig inaktív marad, a rendszer törli az üzembe helyezést. A testreszabott modell üzembe helyezése inaktív , ha a modell több mint tizenöt (15) nappal ezelőtt lett üzembe helyezve, és a folyamatos 15 napos időszakban nem történt befejezési vagy csevegés-befejezési hívás.
Az inaktív üzemelő példány törlése nem törli vagy befolyásolja az alapul szolgáló testreszabott modellt, és a testre szabott modell bármikor újra üzembe helyezhető.
Az üzembe helyezett testre szabott (finomhangolt) modellek óránkénti üzemeltetési költséget jelentenek, függetlenül attól, hogy a modellen befejezési vagy csevegés-befejezési hívások vannak-e folyamatban. .
Az Azure OpenAI szolgáltatással esetlegesen felmerülő egyéb költségek
Az olyan képességek engedélyezése, mint az adatok Azure Monitor-naplókba való küldése és a riasztások, többletköltséggel járnak ezekhez a szolgáltatásokhoz. Ezek a költségek a többi szolgáltatásban és az előfizetés szintjén is láthatók, de nem láthatók, ha csak az Azure OpenAI-erőforrásra terjednek ki.
Az Azure-előrefizetés használata az Azure OpenAI szolgáltatással
Az Azure OpenAI szolgáltatás díjait az Azure-előrefizetési kredittel fizetheti. Az Azure-előrefizetési jóváírással azonban nem fizethet harmadik féltől származó termékekért és szolgáltatásokért, beleértve az Azure Marketplace-en található termékeket és szolgáltatásokat is.
HTTP-hibakód és számlázási állapot az Azure OpenAI szolgáltatásban
Ha a szolgáltatás feldolgozást végez, akkor is díjat számítunk fel, ha az állapotkód nem sikeres (nem 200). Például egy tartalomszűrő vagy bemeneti korlát miatt 400-ra, illetve 408-ra, időtúllépés miatt.
Ha a szolgáltatás nem végez feldolgozást, nem számítunk fel díjat. Például egy 401-et a hitelesítés miatt, vagy egy 429-et a sebességkorlát túllépése miatt.
Költségek monitorozása
Amikor Azure-erőforrásokat használ az Azure OpenAI-jal, az költségekkel jár. Az Azure-erőforrás-használati egység költségei időintervallumonként változnak, például másodpercek, percek, órák és napok, vagy egységhasználat, például bájtok és megabájtok. Amint elindul az Azure OpenAI használata, költségek merülhetnek fel, és a költségek a költségelemzésben láthatók.
A költségelemzés használatakor az Azure OpenAI-költségeket grafikonokon és táblázatokban tekintheti meg különböző időintervallumokban. Néhány példa nap, aktuális és előző hónap és év szerint. A költségeket a költségvetések és az előre jelzett költségek alapján is megtekintheti. A hosszabb nézetekre való váltás segíthet azonosítani a kiadási trendeket. Láthatja, hogy hol fordulhatott elő túlköltekezés. Ha költségvetéseket hozott létre, könnyen láthatja, hogy hol lépték túl őket.
Az Azure OpenAI költségeinek megtekintése a költségelemzésben:
- Jelentkezzen be az Azure Portalra.
- Válasszon egy Azure OpenAI-erőforrást.
- Az Erőforrás-kezelés területen válassza a Költségelemzés lehetőséget
- A költségelemzés alapértelmezés szerint az egyes Azure OpenAI-erőforrásokra terjed ki.
A költséggel járó költségek lebontásának megértéséhez segíthet módosítani a csoportosítást a Meter értékre, és a diagram típusát vonalra váltani. Most már láthatja, hogy az adott erőforrás esetében a költségek forrása három különböző modellsorozatból származik, amelyek text-Davinci-jogkivonatokkal rendelkeznek, amelyek a költségek nagy részét képviselik .
Fontos megérteni a hatókört, amikor kiértékeli az Azure OpenAI-hoz kapcsolódó költségeket. Ha az erőforrások ugyanahhoz az erőforráscsoporthoz tartoznak, akkor az adott szinten hatókörbe helyezheti a Költségelemzést a költségekre gyakorolt hatás megértéséhez. Ha az erőforrások több erőforráscsoportban vannak elosztva, az előfizetési szintre is kiterjedhet.
Ha magasabb szintű hatókörrel rendelkezik, gyakran több szűrőt kell hozzáadnia, hogy az Azure OpenAI használatára összpontosíthasson. Ha az előfizetés szintjén hatókörrel van elosztva, számos más olyan erőforrás jelenik meg, amelyek nem feltétlenül érdekelnek az Azure OpenAI költségkezelésének kontextusában. Ha az előfizetés szintjén hatókört ad meg, javasoljuk, hogy lépjen a Cost Management szolgáltatás teljes költségelemző eszközére.
Íme egy példa arra, hogyan használhatja a Költségelemzési eszközt egy előfizetés vagy erőforráscsoport halmozott költségeinek megtekintésére:
- Keresse meg a Cost Managementet a felső Azure keresősávon a teljes szolgáltatási élmény eléréséhez, amely további lehetőségeket is tartalmaz, például költségvetések létrehozását.
- Szükség esetén válassza a módosítást, ha a hatókör nem az elemezni kívánt erőforráscsoportra vagy előfizetésre mutat.
- A bal oldalon válassza a Reporting + analytics>Cost Analysis lehetőséget.
- A Minden nézet lapon válassza a Halmozott költségek lehetőséget.
A költségelemzési irányítópult azokat a halmozott költségeket jeleníti meg, amelyeket a hatókörhöz megadottaktól függően elemeznek.
Ha szolgáltatás szerint próbál szűrőt hozzáadni, azt tapasztalja, hogy az Azure OpenAI nem található a listában. Ez a helyzet azért fordul elő, mert az Azure OpenAI közös az Azure AI-szolgáltatások egy részhalmazával, ahol a szolgáltatásszint-szűrő a Cognitive Services. Ha egy előfizetés összes Azure OpenAI-erőforrását más típusú Azure AI-szolgáltatási erőforrások nélkül szeretné megtekinteni, akkor a szolgáltatási szint hatóköre : Azure OpenAI:
Költségvetések létrehozása
Költségvetéseket hozhat létre a költségek kezeléséhez, és riasztásokat hozhat létre, amelyek értesítik az érdekelt feleket a kiadási rendellenességek és a túlterjeszkedő kockázatokról. A riasztások a költségvetés és a költségek küszöbértékei alapján működnek. Költségvetéseket és riasztásokat hozhat létre azure-előfizetésekhez és erőforráscsoportokhoz. Ezek egy átfogó költségmonitorozási stratégia részeként hasznosak.
Ha részletesebbségre van szüksége a monitorozásban, létrehozhat költségvetéseket adott erőforrásokhoz vagy szolgáltatásokhoz tartozó szűrőkkel az Azure-ban. A szűrők segítenek biztosítani, hogy ne véletlenül hozzon létre olyan új erőforrásokat, amelyek több pénzbe kerülnek. A költségvetés létrehozásakor elérhető szűrési lehetőségekről további információt a Csoportosítás és szűrési beállítások című témakörben talál.
Fontos
Bár az OpenAI rendelkezik egy olyan lehetőséggel, amely megakadályozza, hogy túllépje a költségvetését, az Azure OpenAI jelenleg nem biztosítja ezt a funkciót. A költségkeret-értesítések részeként automatizálhatja a műveletcsoportokat, hogy fejlettebb műveleteket hajthat végre, de ehhez további egyéni fejlesztésre van szükség.
Költségadatok exportálása
A költségadatokat egy tárfiókba is exportálhatja, ami akkor hasznos, ha további adatelemzésre van szüksége a költségekhez. Egy pénzügyi csapat például az Excel vagy a Power BI használatával elemezheti az adatokat. A költségeket napi, heti vagy havi ütemezés szerint exportálhatja, és egyéni dátumtartományt állíthat be. Javasoljuk, hogy költségadatkészletek lekérésének módjaként exportálja a költségadatokat.
Következő lépések
- Megtudhatja , hogyan optimalizálhatja a felhőberuházásokat az Azure Cost Management használatával.
- További információ a költségek költségelemzéssel való kezeléséről.
- Megtudhatja, hogyan előzheti meg a váratlan költségeket.
- Vegyen részt a Cost Management interaktív képzési kurzusán.