Gérer les budgets pour Unity AI Gateway

Les budgets vous aident à surveiller et contrôler les dépenses mensuelles de la passerelle IA Unity à l’aide de filtres appliqués aux enregistrements de facturation. Vous pouvez définir un budget spécifiquement pour le produit Unity AI Gateway afin de suivre uniquement les dépenses liées à Unity AI Gateway, ou inclure Unity AI Gateway dans un budget à l’échelle du compte.

Les administrateurs de compte et d’espace de travail peuvent afficher un résumé de l’état budgétaire de l’IA et des dépenses sur la page IA dans Le Hub de gouvernance.

Remarque

Les budgets unity AI Gateway suivent également l’utilisation des produits Genie. Pour définir spécifiquement des budgets pour Genie, consultez Gérer les budgets et les contrôles de coûts pour Genie.

Pour plus d’informations sur la création et la surveillance des budgets, consultez Créer et surveiller des budgets.

Requirements

  • Unity AI Gateway est activée pour votre compte.

Fonctionnement des budgets avec Unity AI Gateway

Lors de la création d’un budget, sélectionnez Unity AI Gateway comme type de ressource pour suivre uniquement les dépenses unity AI Gateway (paiement par jeton et inférence ai_query).

Configuration budgétaire

Types de seuil : Pour les budgets limités à Unity AI Gateway, vous pouvez configurer :

  • Seuils partagés : limite de dépense collective pour tous les utilisateurs dans l’étendue budgétaire.
  • Seuils par utilisateur : limite mensuelle qui s’applique à chaque utilisateur individuel.
  • (Pour les budgets Genie uniquement) Dérogations par utilisateur : attribuez à certains utilisateurs ou groupes une limite de dépense supérieure à la limite par défaut par utilisateur. Les utilisateurs couverts par une dérogation peuvent dépenser jusqu’au montant de la dérogation au lieu de la limite par défaut par utilisateur. Si un utilisateur appartient à plusieurs groupes de remplacement, le seuil le plus élevé s’applique.

Pour les seuils partagés et par utilisateur, vous pouvez configurer une ou les deux actions suivantes lorsqu’un seuil est atteint :

  • Envoyer une alerte : envoie une notification par e-mail aux adresses configurées. Les utilisateurs conservent l’accès à Unity AI Gateway.
  • (Pour les budgets Génie uniquement) Bloquer l’utilisation : empêche l’utilisateur d’effectuer d’autres requêtes via Unity AI Gateway. L’utilisateur voit un message indiquant que son budget est épuisé. L’accès reprend une fois le budget réinitialisé ou un administrateur augmente le seuil.

Limitations

  • Les budgets d’Unity AI Gateway suivent actuellement l’inférence de paiement par jeton et d’ai_query (par lot). Le débit provisionné et l’inférence de modèles externes ne sont actuellement pas suivis.

  • Chaque budget prend en charge jusqu’à quatre seuils partagés et 20 dérogations par utilisateur.

  • Votre compte peut avoir un maximum de 1 000 budgets.

  • Les dérogations par utilisateur et le blocage de l’usage ne sont disponibles que pour les budgets Genie.

    • Lorsque le blocage de l’utilisation est configuré pour un seuil, un faible montant de dépenses au-delà du seuil peut néanmoins survenir. Les requêtes actives en cours lorsque le seuil est atteint ne sont pas interrompues, et il peut y avoir un court délai avant que le blocage ne soit appliqué.

  • Les montants des dépenses indiqués dans les e-mails d’alerte budgétaire, sur la page des détails du budget et dans system.billing.usage peuvent différer lorsqu’ils sont comparés au même moment. Cela est attendu, car chaque source est mise à jour à un rythme différent :

    • E-mails d’alerte budgétaire : reflètez les dépenses au moment où l’alerte a été déclenchée.
    • Page de détails du budget : Se met à jour fréquemment, mais peut afficher un montant inférieur à celui indiqué dans un e-mail d’alerte récent si elle est consultée peu après.
    • system.billing.usage: mises à jour toutes les heures. L’interrogation des tables système peu de temps après réception d’une alerte peut retourner un chiffre de dépense inférieur à la page détails du budget ou aux e-mails d’alerte.

    L’application du budget, y compris le blocage de l’utilisation et les seuils d’alerte, est basée sur le suivi des dépenses en temps quasi réel et n’est pas affectée par le minutage de l’actualisation de la table système.

Ressources supplémentaires

  • Last updated on