Wählen Sie Modelle aus oder nutzen Sie Smart Routing

Unity Gateway ermöglicht es dir, verschiedene Modelle in deinem Coding-Agenten zu verwenden. Wählen und wechseln Sie die Modelle mit dem Modellwähler des Agenten oder lassen Sie Smart Routing Modelle für delegierte Aufgaben auswählen.

Modell auswählen

ug erkennt die in Ihrem Arbeitsbereich verfügbaren Modelle. Was Sie auswählen können, hängt vom Modellsupport des Agenten, der Konfiguration Ihrer Organisation und dem Ihnen gewährten Zugriff ab.

Starte Codex CLI mit ug codex, Claude Code mit ug claude, oder GitHub Copilot CLI mit ug copilot. Im Agenten geben Sie ein:

/model

Wählen Sie ein verfügbares Modell aus dem Picker und arbeiten Sie weiter. Verwenden Sie denselben Picker für unterstützte Open-Source-Modelle wie GLM 5.3 (system.ai.glm-5-3). Geben Sie /model erneut ein, wann immer Sie wechseln möchten, zum Beispiel indem Sie ein schnelleres Modell für routinemäßige Bearbeitungen oder ein leistungsfähigeres Modell für eine komplexe Aufgabe wählen.

Siehe Open-Source-Modelle verwenden für Setup-Beispiele und Ausgaben kontrollieren für die Kostenbegründung.

Für geskriptete Starts siehe die ug CLI-Referenz.

Im ChatGPT-Desktop verwenden Sie in einer Codex-Konversation den Modellwähler, um ein Modell auszuwählen, einschließlich unterstützter Open-Source-Modelle. Siehe Verwendung von Open-Source-Modellen im ChatGPT-Desktop. In GitHub Copilot in Visual Studio Code wählen Sie ein Modell aus der Databricks-Gruppe im Copilot Chat Modellwähler aus. Bei anderen Agenten solltest du im Hilfemenü nach Informationen zum Modellwähler suchen.

Copilot Chat Modellwähler in VSC mit ausgewählter Databricks-Gruppe

Um das registrierte Provider-Konto Ihrer Organisation zu verwenden, finden Sie weitere Informationen unter Bring your own model providers.

Verwenden Sie Smart Routing

Important

Smart Routing ist noch in der Beta-Phase. Ein Kontoadministrator muss die Vorschau des Enhanced Unity Gateway über die Vorschauseiten der Kontokonsole aktivieren. Siehe Manage Azure Databricks Previews.

Smart Routing wählt das kostengünstigste Modell, das Ihre Aufgabe bewältigen kann, sodass Sie nicht für jede Anfrage ein Modell wählen. Es funktioniert mit Claude Code. Smart Routing für Codex ist in der Unity Gateway CLI pausiert. GitHub Copilot unterstützt kein Smart Routing.

Anforderungen

  • Die Enhanced Unity Gateway Vorschau für Ihr Konto aktiviert. Ein Kontoadministrator aktiviert ihn über die Seite " Kontokonsole Vorschau" . Siehe Manage Azure Databricks Previews. Lassen Sie nach der Aktivierung 1–2 Minuten ein, damit es sich in Ihren Arbeitsbereich ausbreiten kann.
  • EXECUTE Zugang zu allen Kandidatenmodellen, die Smart Routing auswählen kann. Kandidatenmodelle stammen aus der Modellquelle des Agenten. Mit der Unity Gateway Managed Configuration Beta kann eine sources Modellquelle externe Modelle hinter einem Modellanbieter-Service enthalten. Wenn der Zugriff fehlt, schlägt das Routing mit einem Fehler fehl, der die erforderlichen Modelle identifiziert.

Verwenden Sie Smart Routing mit der Unity Gateway CLI

Wenn dein Administrator Smart Routing in der Arbeitsbereichskonfiguration deines Agenten aktiviert, ug wendet er es automatisch an. Claude Code wie gewohnt starten:

ug claude

Um Smart Routing selbst für einen Launch zu aktivieren, fügen Sie --enable-smart-routing hinzu:

ug claude --enable-smart-routing

Um es für einen Start auszuschalten, auch wenn Ihr Administrator es aktiviert hat, starten Sie mit --disable-smart-routing.

Um Smart Routing während einer Sitzung aus- oder wieder einzuschalten, geben Sie /smart-router on oder /smart-router off ein.

Mit Smart Routing übergibt dein Agent Aufgaben an Unteragenten. Die Aufgabe jedes Subagenten wird unabhängig geroutet und kann ein anderes Modell verwenden. Der Agent zeigt das von jedem Unteragenten gewählte Modell und, falls verfügbar, den Grund für die Wahl. Die Hauptsitzung bleibt bei ihrem Standardmodell: dem Standard- oder Smart-Standard Ihres Administrators, sofern gesetzt, ansonsten der konfigurierte Standard des Agenten. Um eine Aufgabe in der Hauptsitzung zu behalten, bitte den Agenten, keine Subagenten zu verwenden.

Für automatische Sicherheitsprüfungen bei Tool-Calls mit Claude Code-Unteragenten unter Verwendung von nicht-Anthropic Foundation-Modellen, die von Azure Databricks gehostet werden, siehe Auto-Modus.

Um das Modell selbst auszuwählen, schalte Smart Routing mit dem oben genannten Session-Befehl aus und benutze /modeldann . Das Ändern des Modells allein mit /model schaltet Smart Routing nicht aus.

Verwende Smart Routing in Omnigent

Omnigent kann sowohl den Coding-Harness als auch das Modell für eine Aufgabe auswählen, einschließlich der an Unteragenten delegierten Arbeiten. Verwende Version v0.8.0 oder neuer.

Konfigurieren Sie Claude Code und Codex für Ihren Azure Databricks-Arbeitsbereich:

omni setup

Verbinden Sie Ihren Computer mit dem Omnigent-Server:

omni host --server <workspace-url>

Ersetzen Sie <workspace-url> durch Ihre Azure Databricks Arbeitsbereichs-URL.

Wählen Sie in der Omnigent-Benutzeroberfläche Smart Routing als Harness aus, damit dieses sowohl das Harness als auch das Modell auswählt:

Auswahl von Smart Routing als Harness in Omnigent

Um Claude Code oder Codex weiter zu verwenden, wählen Sie diese Konfiguration aus, öffnen Sie das Zahnradmenü und wählen Sie Smart Routing für das Modell:

Auswahl von Smart Routing als Modell in Omnigent

Sie können Model-Routing auch von der CLI aus für einen ausgewählten Harness aktivieren:

omni claude --smart-routing --server <workspace-url>
omni codex --smart-routing --server <workspace-url>

Die Unity Gateway CLI routet zwischen Modellen innerhalb des ausgewählten unterstützten Harnesss. Omnigent wählt auch über Harnesses hinweg; die omni codex- und omni claude-Beispiele wählen explizit ein Harness aus.

Nächste Schritte