HostedAgentDefinition interface

Definicja hostowanego agenta.

Rozszerzenie

Właściwości

code_configuration

Konfiguracja wdrożeń oparta na kodzie. Zapewnij to dla wdrożeń opartych na kodzie. Wzajemnie wykluczające się z container_configuration — usługa potwierdza, że dokładnie jeden jest ustawiony.

container_configuration

Konfiguracja wdrożeniowa oparta na kontenerach. Udostępnij to dla wdrożeń opartych na obrazach. Wzajemnie wykluczające się z code_configuration — usługa potwierdza, że dokładnie jeden jest ustawiony.

cpu

Konfiguracja procesora CPU dla hostowanego agenta.

environment_variables

Zmienne środowiskowe do ustawienia w kontenerze hostowanego agenta.

kind

Taki agent.

memory

Konfiguracja pamięci hostowanego agenta.

protocol_versions

Protokoły, które agent obsługuje dla komunikacji wejściowej.

telemetry_config

Opcjonalna konfiguracja telemetrii dostarczana przez klienta do eksportu logów, tras i metryk kontenerów.

tools

Szereg narzędzi, które model hostowanego agenta może wywołać podczas generowania odpowiedzi. Możesz określić, którego narzędzia użyć, ustawiając tool_choice parametr .

Właściwości dziedziczone

rai_config

Konfiguracja filtrowania treści i funkcji bezpieczeństwa Responsible AI (RAI).

Szczegóły właściwości

code_configuration

Konfiguracja wdrożeń oparta na kodzie. Zapewnij to dla wdrożeń opartych na kodzie. Wzajemnie wykluczające się z container_configuration — usługa potwierdza, że dokładnie jeden jest ustawiony.

code_configuration?: CodeConfiguration

Wartość właściwości

container_configuration

Konfiguracja wdrożeniowa oparta na kontenerach. Udostępnij to dla wdrożeń opartych na obrazach. Wzajemnie wykluczające się z code_configuration — usługa potwierdza, że dokładnie jeden jest ustawiony.

container_configuration?: ContainerConfiguration

Wartość właściwości

cpu

Konfiguracja procesora CPU dla hostowanego agenta.

cpu: string

Wartość właściwości

string

environment_variables

Zmienne środowiskowe do ustawienia w kontenerze hostowanego agenta.

environment_variables?: Record<string, string>

Wartość właściwości

Record<string, string>

kind

Taki agent.

kind: "hosted"

Wartość właściwości

"hosted"

memory

Konfiguracja pamięci hostowanego agenta.

memory: string

Wartość właściwości

string

protocol_versions

Protokoły, które agent obsługuje dla komunikacji wejściowej.

protocol_versions?: ProtocolVersionRecord[]

Wartość właściwości

telemetry_config

Opcjonalna konfiguracja telemetrii dostarczana przez klienta do eksportu logów, tras i metryk kontenerów.

telemetry_config?: TelemetryConfig

Wartość właściwości

tools

Szereg narzędzi, które model hostowanego agenta może wywołać podczas generowania odpowiedzi. Możesz określić, którego narzędzia użyć, ustawiając tool_choice parametr .

tools?: ToolUnion[]

Wartość właściwości

Szczegóły właściwości dziedziczonej

rai_config

Konfiguracja filtrowania treści i funkcji bezpieczeństwa Responsible AI (RAI).

rai_config?: RaiConfig

Wartość właściwości

Odziedziczone poAgentDefinition.rai_config