Budgetten beheren voor Unity AI Gateway

Budgetten helpen u bij het bewaken en beheren van maandelijkse Unity AI Gateway-uitgaven met behulp van filters die zijn toegepast op factureringsrecords. U kunt een budget specifiek instellen voor het Unity AI Gateway-product om alleen de uitgaven van Unity AI Gateway bij te houden of Unity AI Gateway op te nemen in een budget voor het hele account.

Account- en werkruimtebeheerders kunnen een overzicht bekijken van de ai-budgetstatus en uitgaven op de AI-pagina in Governance Hub.

Note

Unity AI Gateway-budgetten houden ook het productgebruik van Genie bij. Zie Budgetten en kostencontroles beheren voor Genie als u budgetten voor Genie specifiek wilt instellen.

Zie Budgetten maken en bewaken voor meer informatie over het maken en bewaken van budgetten.

Requirements

  • Unity AI Gateway ingeschakeld voor uw account.

Hoe budgetten werken met Unity AI Gateway

Wanneer u een budget maakt, selecteert u Unity AI Gateway als het resourcetype om alleen uitgaven aan Unity AI Gateway bij te houden (kosten per token en ai_query-inferentie).

Budgetinstellingen

Drempelwaarden: Voor budgetten die zijn gericht op Unity AI Gateway, kunt u het volgende configureren:

  • Gedeelde drempelwaarden: een collectieve bestedingslimiet voor alle gebruikers binnen het budgetbereik.
  • Drempelwaarden per gebruiker: een maandelijkse limiet die van toepassing is op elke afzonderlijke gebruiker.
  • (Alleen voor Genie-budgetten) Uitzonderingen per gebruiker: Geef specifieke gebruikers of groepen een hogere bestedingslimiet dan de standaardlimiet per gebruiker. Gebruikers die onder een uitzondering vallen, kunnen maximaal het uitzonderingsbedrag uitgeven in plaats van de standaardlimiet per gebruiker. Als een gebruiker tot meerdere overrulegroepen behoort, is de hoogste drempelwaarde van toepassing.

Voor gedeelde en per gebruiker drempelwaarden kunt u een of beide van de volgende acties configureren wanneer een drempelwaarde wordt bereikt:

  • Waarschuwing verzenden: hiermee wordt een e-mailmelding verzonden naar geconfigureerde adressen. Gebruikers behouden toegang tot Unity AI Gateway.
  • (Alleen voor Genie-budgetten ) Gebruik blokkeren: hiermee voorkomt u dat de gebruiker verdere aanvragen kan indienen via Unity AI Gateway. De gebruiker ziet een bericht dat het budget is uitgeput. Access wordt hervat nadat het budget opnieuw is ingesteld of een beheerder de drempelwaarde verhoogt.

Limitations

  • Budgetten voor Unity AI Gateway houden momenteel betalingen per token en ai_query (batch)-inferentie bij. Geprovisioneerde doorvoer en externe modelinferentie worden momenteel niet bijgehouden.

  • Elk budget ondersteunt maximaal vier gedeelde drempelwaarden en 20 overschrijvingen per gebruiker.

  • Uw account kan maximaal 1000 budgetten hebben.

  • Uitzonderingen per gebruiker en gebruiksblokkades zijn alleen beschikbaar voor Genie-budgetten.

    • Wanneer Gebruik blokkeren is ingesteld voor een drempelwaarde, kan er nog steeds een klein bedrag aan kosten boven die drempelwaarde worden gemaakt. Actieve verzoeken die nog in behandeling zijn wanneer de drempelwaarde wordt bereikt, worden niet onderbroken en er kan een korte vertraging optreden voordat de blokkering van kracht wordt.

  • Uitgavenbedragen in de e-mailberichten met budgetwaarschuwingen, pagina met budgetgegevens en system.billing.usage kunnen verschillen wanneer ze op hetzelfde moment worden vergeleken. Dit is te verwachten, omdat elke bron in een ander tempo wordt bijgewerkt:

    • E-mailberichten met budgetwaarschuwingen: Geef de uitgaven weer op het moment dat de waarschuwing werd geactiveerd.
    • Pagina Met budgetgegevens: Updates worden vaak bijgewerkt, maar kunnen een lager bedrag weergeven dan een recente waarschuwings-e-mail wanneer deze kort daarna wordt weergegeven.
    • system.billing.usage: Elke paar uur wordt bijgewerkt. Het opvragen van systeemtabellen kort nadat u een waarschuwing hebt ontvangen, kan een lager uitgavencijfer retourneren dan de pagina met budgetgegevens of e-mailberichten met waarschuwingen.

    Het afdwingen van budgetten, waaronder het blokkeren van gebruik en drempelwaarden voor waarschuwingen, is gebaseerd op het bijhouden van bijna realtime uitgaven en wordt niet beïnvloed door de tijdsinstellingen voor het vernieuwen van systeemtabellen.

Aanvullende informatiebronnen

  • Last updated on