Metrikák kibocsátása az Azure OpenAI-jogkivonatok felhasználásához

A KÖVETKEZŐRE VONATKOZIK: Minden API Management-szint

A azure-openai-emit-token-metric szabályzat metrikákat küld az Alkalmazásnak Elemzések a nagy nyelvi modell jogkivonatainak az Azure OpenAI szolgáltatás API-kkal történő felhasználásáról. A jogkivonatok számának metrikái a következők: Összes jogkivonat, Prompt Tokens és Befejezési jogkivonatok.

Feljegyzés

Állítsa be a szabályzat elemeit és gyermekelemeit a szabályzatutasításban megadott sorrendben. További információ az API Management-szabályzatok beállításáról és szerkesztéséről.

Előfeltételek

• Egy vagy több Azure OpenAI-szolgáltatás API-t hozzá kell adni az API Management-példányhoz. További információ: Azure OpenAI Service API hozzáadása az Azure API Managementhez.
• Az API Management-példánynak integrálva kell lennie az Application Insightsszal. További információ: Az Azure API Management integrálása Azure-alkalmazás Elemzések.
• Engedélyezze az alkalmazás Elemzések naplózását az Azure OpenAI API-khoz.
• Egyéni metrikák engedélyezése dimenziókkal az Alkalmazás Elemzések. További információ: Egyéni metrikák kibocsátása.

Szabályzatutasítás

<azure-openai-emit-token-metric
        namespace="metric namespace" >      
        <dimension name="dimension name" value="dimension value" />
        ...additional dimensions...
</azure-openai-emit-token-metric>

Attribútumok

Attribútum	Leírás	Kötelező	Alapértelmezett érték
névtér	Egy sztring. A metrika névtere. A szabályzatkifejezések nem engedélyezettek.	Nem	API Management
Érték	A metrika értéke dupla értékként kifejezve. A szabályzatkifejezések engedélyezettek.	Nem	0

Elemek

Elem	Leírás	Kötelező
dimenzió	Adjon hozzá egy vagy több elemet a metrikában szereplő dimenziókhoz.	Igen

dimenzióattribútumok

Attribútum	Leírás	Kötelező	Alapértelmezett érték
név	Sztring vagy szabályzatkifejezés. Dimenzió neve.	Igen	n/a
Érték	Sztring vagy szabályzatkifejezés. A dimenzió értéke. Csak akkor hagyható ki, ha name egyezik az alapértelmezett dimenziók egyikével. Ha igen, az érték dimenziónév szerint van megadva.	Nem	N.A.

Alapértelmezett dimenziónevek, amelyek érték nélkül is használhatók

• API-azonosító
• Műveletazonosító
• Termékazonosító
• Felhasználói azonosító
• Előfizetés azonosítója
• Hely
• Átjáró azonosítója

Használat

• Szabályzatszakaszok: bejövő
• Szabályzathatókörök: globális, munkaterület, termék, API, művelet
• Átjárók: klasszikus, v2

Használati megjegyzések

• Ez a szabályzat szabályzatdefiníciónként többször is használható.
• Ehhez a szabályzathoz legfeljebb 10 egyéni definíciót konfigurálhat.
• Ez a szabályzat opcionálisan konfigurálható, ha api-t ad hozzá az Azure OpenAI szolgáltatásból a portál használatával.

Példa

Az alábbi példa dimenzióként elküldi az Azure OpenAI-jogkivonatok számmetrikáit az alkalmazás Elemzések, valamint a felhasználói azonosítót, az ügyfél IP-címét és az API-azonosítót.

<policies>
  <inbound>
      <azure-openai-emit-token-metric
            namespace="AzureOpenAI">   
            <dimension name="User ID" />
            <dimension name="Client IP" value="@(context.Request.IpAddress)" />
            <dimension name="API ID" />
        </azure-openai-emit-token-metric> 
  </inbound>
  <outbound>
  </outbound>
</policies>

Kapcsolódó szabályzatok

• Logging
• kibocsátó metrikaszabályzat
• azure-openai-token-limit szabályzat

Kapcsolódó tartalom

A szabályzatok használatával kapcsolatos további információkért lásd:

• Oktatóanyag: AZ API átalakítása és védelme
• Szabályzathivatkozás a szabályzatutasságok és azok beállításainak teljes listájához
• Házirend-kifejezések
• Házirendek beállítása vagy szerkesztése
• Szabályzatkonfigurációk újrafelhasználása
• Szabályzatrészletek adattára
• Szabályzatok létrehozása az Azure-hoz készült Microsoft Copilot használatával