Kontrolujte výdaje

Kontrolujte, kolik váš tým utrácí za kódování agentů v Unity Gateway. Stanovte rozpočty, vybírejte modely, které vyvažují náklady a schopnosti, a používejte Smart Routing k optimalizaci výběru modelů.

Nastavení rozpočtů

Vytvořte měsíční rozpočet s Unity Gateway jako typem zdroje. Vyberte prahové hodnoty pro svůj tým:

Prahová hodnota Co to řídí
Shared Celkové výdaje napříč uživateli v rámci rozpočtu.
Pro jednotlivé uživatele Výdaje na jednotlivého uživatele
Přepsání pro jednotlivé uživatele Vyšší příspěvek pro konkrétní uživatele nebo skupiny.

Pro každý sdílený nebo uživatelský práh zvolte Odeslat upozornění, Blokovat použití nebo obojí. Upozornění upozorňují nakonfigurované příjemce. Blokování zabraňuje dalším požadavkům na brány, dokud se rozpočet neresetuje nebo administrátor nezvýší práh.

Pokud váš tým používá externí poskytovatele modelů, povolte v náhledu rozpočtů možnost Výdaje externího modelu a vyberte Zahrnout použití externího modelu. Odhadované externí výdaje se pak počítají ke stejným hranicím.

Vymáhání rozpočtu využívá odhady téměř v reálném čase. Již probíhající požadavky mohou být dokončeny, takže konečná útrata může překročit limit. Externí odhady se také mohou lišit od faktury poskytovatele.

Pro podrobnosti o nastavení a pokrytí viz Správa rozpočtů pro Unity Gateway.

Nastavte výchozí hodnoty modelů a chytré výchozí hodnoty

Upravte tato nastavení v konfiguraci svého kódovacího agenta. Slučte níže uvedená pole do stávající konfigurace a pak uložte, abyste mohli zveřejnit své změny.

Nastavte výchozí model

Vyberte model, se kterým každý agent začíná při každodenní práci. Pro Claudeův kód přidejte následující do jeho config objektu pod enabled_agents:

{
  "default_models": {
    "default_model": "system.ai.claude-sonnet-4-6"
  }
}

Tím se Claude Sonnet 4.6 nastaví jako výchozí pro Claude Code. Vyberte model podporovaný agentem a zajistěte, aby k němu vývojáři měli přístup. ug používá toto výchozí nastavení, když se nepoužije žádné doporučení chytrého výchozího nastavení ani výslovná volba modelu.

Pro Claude Code můžete také namapovat jeho rodiny modelů Opus, Sonnet, Haiku a Fable na konkrétní modely:

{
  "default_models": {
    "default_model": "system.ai.claude-sonnet-4-6",
    "default_opus_model": "system.ai.claude-opus-4-8",
    "default_sonnet_model": "system.ai.claude-sonnet-4-6",
    "default_haiku_model": "system.ai.claude-haiku-4-5",
    "default_fable_model": "system.ai.claude-fable-5"
  }
}

Specifikujte pouze mapování rodin, která chcete přepsat. Pokud models používáte službu poskytovatele modelu, použijte ID modelů z této služby. Jinak použijte kompletní názvy modelů služeb Unity Catalog. U statického model_services seznamu se v tomto seznamu musí objevit i každá výchozí hodnota.

Upravujte doporučení, jak rostou výdaje

Important

Smart-default jsou v beta verzi. Správce účtu musí povolit náhled Enhanced Unity Gateway na stránce Preview konzole účtu. Viz Manage Azure Databricks preview.

Chcete-li doporučit jiného agenta a model s rostoucími výdaji, přidejte smart_defaults na nejvyšší úroveň stávající konfigurace kódovacího agenta:

{
  "smart_defaults": {
    "budget_id": "<budget-configuration-uuid>",
    "tiers": [
      {
        "spending_percentage": 0.8,
        "recommended_agent": "CODING_AGENT_CLAUDE_CODE",
        "recommended_model": "system.ai.claude-haiku-4-5"
      }
    ]
  }
}

Nahraďte ID rozpočtu svým rozpočtem budget_configuration_id. Hodnota 0.8 znamená 80% z příslušného rozpočtového prahu. V tomto bodě tento příklad doporučuje Claude Code s Claude Haiku 4.5. Zahrňte doporučeného agenta do enabled_agents a udělte vývojářům přístup k modelu. Pokud tento agent používá statický model_services seznam, zahrňte do něj doporučený model. V případě více úrovní doporučení určuje nejvyšší dosažená prahová hodnota.

Spuštěním ug se spustí doporučený agent a model. Příkaz specifický pro agenta si ponechá vybraného agenta a aplikuje modelové doporučení pouze tehdy, pokud cílí na daného agenta. Explicitní --model tvrzení převažuje nad doporučením.

Chytré výchozí nastavení mají vliv na nově spuštěné relace; nepřepínají aktivní relace ani neomezují přístup k modelům. Použijte blokování rozpočtu k zastavení dalších požadavků a oprávnění Unity Catalog k omezení přístupu.

Použijte otevřené modely

Azure Databricks podporuje spouštění open source (OSS) modelů, jako například glm-5-2, pomocí agentů pro psaní kódu prostřednictvím Unity Gateway. OSS modely mohou výrazně snížit náklady na token u rutinních programovacích úkolů. Nastavte model OSS jako výchozí pro agenta ve vaší konfiguraci, nebo nechte vývojáře vybrat model při spuštění.

Pro příklady spuštění a ruční nastavení viz Výběr modelů. Chcete-li vidět, kteří agenti podporují otevřené modely, viz Podporované kódující agenty.

Pochopte chytré směrování

Chytré směrování automaticky vybírá model s nejnižšími náklady schopný zvládnout každý úkol, takže vývojáři nemusí vybírat model pro každý požadavek. Funguje s Claude Code i Codexem a umožňuje vybrat jiný model, než je týmem nastavený výchozí model nebo doporučení smart-default.

Pro povolení Smart Routing ve výchozím nastavení přidejte smart_routing do každého podporovaného objektu config agenta:

{
  "smart_routing": {
    "enabled": true
  }
}

Publikujte konfiguraci. Když vývojáři spustí aplikaci pomocí ug claude nebo ug codex, CLI automaticky použije funkci Smart Routing. Chcete-li zabránit tomu, aby se funkce Smart Routing ve výchozím nastavení povolovala, nastavte enabled na false a publikujte aktualizaci.

Pro nastavení a chování vývojářů viz Výběr modelů nebo použití Smart Routing.

Omezení chytrého směrování

  • Chytré směrování podporuje pouze statický models.model_services seznam, jehož položky začínají na system.ai.. Inteligentní směrování nelze povolit u model_provider_service, unity_catalog_location, vlastního modelu, externího poskytovatele nebo modelové služby mimo system.ai.
  • Administrátoři pracovního prostoru musí vývojářům umožnit přístup ke každému kandidátskému modelu.
  • CLI nástroje Unity Gateway směruje mezi modely v rámci jednoho prostředí. Směrování mezi svazky vyžaduje Omnigent v0.8.0 nebo novější.
  • Nativní relace Claude Code a Codex, které nepoužívají Unity Gateway CLI, nepodporují Smart Routing přes Unity Gateway.

Revize výdajů

Zkontrolujte spotřebu a výdaje, abyste upravili své rozpočty a výběr modelů. Viz Monitorování aktivity kódovacího agenta.

Dodatečné zdroje

  • Last updated on