Verwalten von Budgets für Unity AI Gateway

Budgets helfen Ihnen, die monatlichen Unity AI Gateway-Ausgaben mithilfe von Filtern zu überwachen und zu steuern, die auf Abrechnungsdatensätze angewendet werden. Sie können ein Budget speziell auf das Unity AI Gateway-Produkt festlegen, um nur Die Ausgaben für Unity AI Gateway nachzuverfolgen oder Unity AI Gateway in ein kontoweites Budget einzuschließen.

Hinweis

Unity AI Gateway-Budgets verfolgen auch die Nutzung von Genie-Produkten. Um Budgets speziell für Genie festzulegen, siehe „Budgets und Kostenkontrollen für Genie verwalten“.

Ausführliche Informationen zum Erstellen und Überwachen von Budgets finden Sie unter Erstellen und Überwachen von Budgets.

Requirements

  • Unity AI Gateway für Ihr Konto aktiviert.

Funktionsweise von Budgets mit Unity AI Gateway

Wenn Sie ein Budget erstellen, wählen Sie Unity AI Gateway als Ressourcentyp aus, um nur Die Ausgaben für Unity AI Gateway (Pay-per-Token und ai_query Rückschluss) nachzuverfolgen.

Budgetkonfiguration

Schwellenwerttypen: Für Budgets, die auf unity AI Gateway festgelegt sind, können Sie Folgendes konfigurieren:

  • Gemeinsame Schwellenwerte: Ein gemeinsames Ausgabenlimit für alle Benutzer innerhalb des Budgetbereichs.
  • Schwellenwerte pro Benutzer: Ein monatliches Limit, das für jeden einzelnen Benutzer gilt.
  • (Nur für Genie Budgets ) Außerkraftsetzungen pro Benutzer: Gewähren Sie bestimmten Benutzern oder Gruppen ein höheres Ausgabenlimit als den Standardschwellenwert pro Benutzer. Benutzer, die unter eine Ausnahmeregelung fallen, können bis zu dem in der Ausnahmeregelung festgelegten Betrag ausgeben, statt des standardmäßigen Limits pro Benutzer. Wenn ein Benutzer zu mehreren Override-Gruppen gehört, gilt der höchste Schwellenwert.

Für freigegebene und benutzerspezifische Schwellenwerte können Sie eine oder beide der folgenden Aktionen konfigurieren, wenn ein Schwellenwert erreicht wird:

  • Benachrichtigung senden: Sendet eine E-Mail-Benachrichtigung an konfigurierte Adressen. Benutzer behalten den Zugriff auf das Unity AI-Gateway bei.
  • (Nur für Genie Budgets ) Nutzung blockieren: Verhindert, dass der Benutzer weitere Anforderungen über unity AI Gateway stellt. Der Benutzer sieht eine Meldung, dass sein Budget erschöpft ist. Der Zugriff ist wieder möglich, nachdem das Budget zurückgesetzt wurde oder ein Administrator den Schwellenwert erhöht hat.

Limitations

  • Unity AI Gateway-Budgets verfolgen derzeit Pay-per-Token- und ai_query-Rückschlüsse (Batch). Der bereitgestellte Durchsatz und die Ableitung externer Modelle werden derzeit nicht nachverfolgt.

  • Jedes Budget unterstützt höchstens vier gemeinsame Schwellenwerte und 20 benutzerspezifische Überschreibungen.

  • Ihr Konto kann maximal 1.000 Budgets haben.

  • Benutzerspezifische Außerkraftsetzungen und Nutzungssperrungen sind nur für Genie-Budgets verfügbar.

    • Wenn Nutzung blockieren für einen Schwellenwert konfiguriert ist, kann es dennoch zu geringfügigen Ausgaben über den Schwellenwert hinaus kommen. Aktive laufende Anfragen, die beim Erreichen des Schwellenwerts noch verarbeitet werden, werden nicht unterbrochen, und es kann zu einer kurzen Verzögerung kommen, bevor die Blockierung greift.
  • Ausgabenbeträge in den E-Mails für Budgetwarnungen, auf der Seite „Budgetdetails“ und in system.billing.usage können voneinander abweichen, wenn sie zum selben Zeitpunkt verglichen werden. Dies wird erwartet, da jede Quellaktualisierung mit einer anderen Rate erfolgt:

    • E-Mails zu Budgetwarnungen: Zeigen die Ausgaben zum Zeitpunkt an, an dem die Warnung ausgelöst wurde.
    • Seite „Budgetdetails“: Wird häufig aktualisiert, kann jedoch kurz nach Erhalt einer aktuellen Warn-E-Mail einen niedrigeren Betrag anzeigen.
    • system.billing.usage: Aktualisiert alle paar Stunden. Das Abfragen von Systemtabellen kurz nach erhalt einer Warnung kann eine niedrigere Ausgabenzahl als die Budgetdetailseite oder Warnungs-E-Mails zurückgeben.

    Die Durchsetzung von Budgets, einschließlich Nutzungssperren und Warnschwellen, basiert auf einer Nachverfolgung der Ausgaben nahezu in Echtzeit und wird nicht durch den Zeitpunkt der Aktualisierung von Systemtabellen beeinflusst.

Weitere Ressourcen