Nasadit do online koncového bodu Microsoft Foundry nebo Azure Machine Learning Studio

Rozhraní příkazového řádku pro vývojáře Azure (azd) umožňuje nasazení do online koncového bodu studio Azure Machine Learning nebo Microsoft Foundry. azd podporuje následující funkce, které jsou popsány v následujících částech:

Předpoklady

Pokud chcete pracovat s Microsoft Foundry nebo studio Azure Machine Learning online koncovými body, potřebujete:

Šablona Foundry Starter vám může pomoct vytvořit veškerou požadovanou infrastrukturu, která vám pomůže začít s koncovými body Foundry.

Konfigurace online koncového bodu

Konfigurace podpory pro online koncové body v services části azure.yaml souboru:

  • Nastavte host hodnotu na ai.endpoint.
  • Oddíl config pro ai.endpoint podporuje následující konfigurace:
    • workspace: Název pracovního prostoru Microsoft Foundry. Podporuje azd nahrazení a syntaxi proměnných prostředí.
      • Pokud není zadáno, azd vyhledá proměnnou prostředí s názvem AZUREAI_PROJECT_NAME.
    • prostředí: Volitelná vlastní konfigurace pro prostředí ML. azd vytvoří novou verzi prostředí z odkazované definice souboru YAML.
    • flow: Volitelná vlastní konfigurace pro toky. azd vytvoří nový tok výzvy ze zadané cesty k souboru.
    • model: Volitelná vlastní konfigurace pro modely ML. azd vytvoří novou verzi modelu z odkazované definice souboru YAML.
    • nasazení: Požadovaná konfigurace pro nasazení online koncových bodů. azd vytvoří nové online nasazení pro přidružený online koncový bod z odkazované definice souboru YAML.

Vezměte v úvahu následující ukázkový azure.yaml soubor, který konfiguruje tyto funkce:

name: contoso-chat
metadata:
  template: contoso-chat@0.0.1-beta
services:
  chat:
    # Referenced new ai.endpoint host type
    host: ai.endpoint
    # New config flow for AI project configuration
    config:
      # The name of the Foundry workspace
      workspace: ${AZUREAI_PROJECT_NAME}
      # Optional: Path to custom ML environment manifest
      environment:
        path: deployment/docker/environment.yml
      # Optional: Path to your prompt flow folder that contains the flow manifest
      flow:
        path: ./contoso-chat
      # Optional: Path to custom model manifest
      model:
        path: deployment/chat-model.yaml
        overrides:
          "properties.azureml.promptflow.source_flow_id": ${AZUREAI_FLOW_NAME}
      # Required: Path to deployment manifest
      deployment:
        path: deployment/chat-deployment.yaml
        environment:
          PRT_CONFIG_OVERRIDE: deployment.subscription_id=${AZURE_SUBSCRIPTION_ID},deployment.resource_group=${AZURE_RESOURCE_GROUP},deployment.workspace_name=${AZUREAI_PROJECT_NAME},deployment.endpoint_name=${AZUREAI_ENDPOINT_NAME},deployment.deployment_name=${AZUREAI_DEPLOYMENT_NAME}

Sekce config.deployment je povinná a vytvoří nové online nasazení na přidružený online koncový bod z odkazované definice souboru YAML. Tato funkce zpracovává následující:

  • Přidružené prostředí a model jsou odkazovány, pokud jsou k dispozici.
  • azd čeká, až nasazení přejde do stavu zřizování terminálu.
  • Při úspěšných nasazeních se veškerý provoz přesune na novou verzi nasazení.
  • Všechna předchozí nasazení se odstraní, aby se uvolnily výpočetní prostředky pro budoucí nasazení.

Prozkoumání možností konfigurace

Každá podporovaná funkce pro online koncové body AI/ML podporuje přizpůsobení pro váš konkrétní scénář pomocí možností popsaných v následujících částech.

Flow

Oddíl flow konfigurace je volitelný a podporuje následující hodnoty:

  • name: Název toku. Výchozí hodnota je <service-name>-flow-<timestamp> v případě, že není zadána.

  • path: Relativní cesta ke složce, která obsahuje manifest toku.

  • překrytí: Jakékoli vlastní překrytí, která se mají použít pro proces.

    Poznámka:

    Každé volání azd deploy vytváří nový tok s časovým razítkem.

Životní prostředí

Oddíl environment konfigurace je volitelný a podporuje následující hodnoty:

  • name: Název vlastního prostředí. Výchozí hodnota je <service-name>-environment v případě, že není zadána.

  • path: Relativní cesta k manifestu yaml vlastního prostředí.

  • překrytí: Jakákoliv vlastní překrytí, která se mají použít v prostředí.

    Poznámka:

    Každé volání azd deploy vytvoří novou verzi prostředí.

Model

Oddíl model konfigurace je volitelný a podporuje následující hodnoty:

  • name: Název vlastního modelu. Výchozí hodnota je <service-name>-model v případě, že není zadána.

  • path: Relativní cesta k manifestu YAML vlastního modelu.

  • přepsání: Všechna vlastní přepsání, která se mají použít pro model.

    Poznámka:

    Každé volání azd deploy vytvoří novou verzi modelu.

Nasazení

Oddíl deployment konfigurace je povinný a podporuje následující hodnoty:

  • name: Název úpravy nasazení. Výchozí hodnota je <service-name>-deployment v případě, že není zadána.

  • path: Relativní cesta k vlastnímu YAML manifestu nasazení.

  • prostředí: Mapa párů klíč-hodnota pro nastavení proměnných prostředí pro nasazení. Podporuje substituce proměnných prostředí z proměnných prostředí OS/AZD pomocí syntaxe ${VAR_NAME}.

  • přepsání nastavení: Jakákoli vlastní přepsání nastavení, která se mají použít při nasazení.

    Poznámka:

    Podporuje pouze spravovaná online nasazení.

AgentSchema a agent.yaml

AgentSchema je otevřená specifikace pro definování AI agentů ve formátu YAML orientovaném na kód. Soubor agent.yaml popisuje konfiguraci agenta, včetně jeho modelu, pokynů, nástrojů a připojení. AgentSchema slouží jako jednotný formát výměny mezi Microsoft Copilot Studio, Microsoft Foundry a dalšími platformami.

AgentSchema podporuje dva primární formáty:

  • AgentDefinition – úplná konkrétní specifikace agenta, který lze spustit přímo. Tento formát použijte pro jednoúčelové agenty, kde jsou všechny hodnoty konfigurace známé a opravené.
  • AgentManifest – parametrizovaná šablona pro dynamické vytváření agentů. Tento formát použijte pro opakovatelné vzory agentů, kde jsou hodnoty jako názvy modelů, připojení nebo pokyny konfigurovány za běhu pomocí syntaxe {{parameter}}.

Příklad: agent.yaml

Následující příklad ukazuje hostovanou definici agent.yaml, kterou lze azd nasadit do Microsoft Foundry. Anotace schématu v horní části říká editorům podporujícím YAML, aby prováděly validaci vůči publikovanému schématu AgentSchema:

# yaml-language-server: $schema=https://raw.githubusercontent.com/microsoft/AgentSchema/refs/heads/main/schemas/v1.0/ContainerAgent.yaml

kind: hosted
name: customer-support
description: Handles customer inquiries and support requests
protocols:
  - protocol: responses
    version: v1
code_configuration:
  runtime: python_3_14
  entry_point: main.py

Tento příklad používá blok code_configuration s kind: hosted, který říká azd, aby zabalil váš zdrojový kód do souboru ZIP a nechal Foundry spravovat běhové prostředí. Pokud chcete místo toho nasadit předem připravenou image kontejneru, nahraďte code_configurationimage polem, které odkazuje na image v Azure Container Registry.

Použití agent.yaml společně s azd

Schéma azure.yaml podporuje typ hostitele azure.ai.agent pro nasazení agentů do Microsoft Foundry. Když nastavíte host hodnotu azure.ai.agent, azd přečte agent.yaml soubor v adresáři služby a použije jeho kind pole k určení, jak nasadit agenta. Další informace najdete v referenčních informacích ke schématu azure.yaml.

Podporované kind hodnoty

Pole kind v horní části agent.yaml slouží k výběru typu nasazení. azd ověří toto pole proti hodnotám v následující tabulce a odmítne jakoukoli jinou hodnotu v době nasazení.

kind Co azd nasazuje Kdy ho použít
hosted Agent hostovaný v Foundry. Podrežim nasazení závisí na polích, která do souboru zahrnete: přidejte code_configuration pro nasazení kódu (nahrání ZIP, modul runtime spravovaný službou Foundry) nebo přidejte image pro nasazení kontejneru (váš předem sestavený image z Azure Container Registry). Většina agentů vytvořených nástrojem azd ai agent init. Použijte nasazení pomocí kódu, pokud chcete, aby Foundry spravoval runtime; nasazení pomocí kontejneru použijte, pokud potřebujete úplnou kontrolu nad obrazem.

Poznámka:

AgentSchema je širší specifikace než ta, kterou dnes nasazuje azd. Pokud v referenční dokumentaci AgentSchema narazíte na jiné hodnoty kind (například definice agenta pouze s promptem), tyto formáty nejsou podporovány komponentou azd a azd deploy je neakceptuje.

Další informace o AgentSchema najdete v následujících zdrojích informací:

Požádat o pomoc

Informace o tom, jak nahlásit chybu, požádat o pomoc nebo navrhnout novou funkci pro rozhraní příkazového řádku vývojářů Azure, najdete na stránce řešení problémů a podpora.