Üzembe helyezés Microsoft Öntödében vagy Azure Machine Learning stúdió online végponton

A Azure fejlesztői parancssori felület (azd) lehetővé teszi a Azure Machine Learning stúdió vagy Microsoft Foundry online végponton való üzembe helyezést. azd az alábbi funkciókat támogatja, amelyeket az alábbi szakaszokban ismertetünk:

Előfeltételek

Az Microsoft Foundry vagy Azure Machine Learning stúdió online végpontok használatához a következőkre van szüksége:

A Foundry Starter sablon segíthet létrehozni az összes szükséges infrastruktúrát az Foundry-végpontok használatának megkezdéséhez.

Az online végpont konfigurálása

Online végpontok támogatásának konfigurálása a servicesazure.yaml fájl szakaszában:

  • Állítsa az host értéket értékre ai.endpoint.
  • A config szakasz ai.endpoint a következő konfigurációkat támogatja:
    • munkatér: A Microsoft Foundry-munkaterület neve. Támogatja azd a környezeti változók helyettesítését és szintaxisát.
      • Ha nincs megadva, azd egy környezeti változót keres a névvel AZUREAI_PROJECT_NAME.
    • környezet: Választható egyéni konfiguráció ml-környezetekhez. azd létrehoz egy új környezeti verziót a hivatkozott YAML-fájldefinícióból.
    • folyamat: A folyamatok opcionális egyéni konfigurációja. azd új promptfolyamatot hoz létre a megadott fájl elérési útvonaláról.
    • modell: Választható egyéni konfiguráció gépi tanulási modellekhez. azd létrehoz egy új modellverziót a hivatkozott YAML-fájldefinícióból.
    • üzembe helyezés: Az online végpontok üzembe helyezéséhez szükséges konfiguráció. azd új online üzembe helyezést hoz létre a társított online végponton a hivatkozott YAML-fájldefinícióból.

Vegye figyelembe a következő mintafájlt azure.yaml , amely konfigurálja ezeket a funkciókat:

name: contoso-chat
metadata:
  template: contoso-chat@0.0.1-beta
services:
  chat:
    # Referenced new ai.endpoint host type
    host: ai.endpoint
    # New config flow for AI project configuration
    config:
      # The name of the Foundry workspace
      workspace: ${AZUREAI_PROJECT_NAME}
      # Optional: Path to custom ML environment manifest
      environment:
        path: deployment/docker/environment.yml
      # Optional: Path to your prompt flow folder that contains the flow manifest
      flow:
        path: ./contoso-chat
      # Optional: Path to custom model manifest
      model:
        path: deployment/chat-model.yaml
        overrides:
          "properties.azureml.promptflow.source_flow_id": ${AZUREAI_FLOW_NAME}
      # Required: Path to deployment manifest
      deployment:
        path: deployment/chat-deployment.yaml
        environment:
          PRT_CONFIG_OVERRIDE: deployment.subscription_id=${AZURE_SUBSCRIPTION_ID},deployment.resource_group=${AZURE_RESOURCE_GROUP},deployment.workspace_name=${AZUREAI_PROJECT_NAME},deployment.endpoint_name=${AZUREAI_ENDPOINT_NAME},deployment.deployment_name=${AZUREAI_DEPLOYMENT_NAME}

A config.deployment szakasz szükséges, és létrehoz egy új online üzembe helyezést a társított online végponton a hivatkozott YAML-fájldefinícióból. Ez a funkció a következőket kezeli:

  • A társított környezetre és modellre akkor hivatkozunk, ha elérhető.
  • azd várja, hogy az üzembe helyezés elérje a végső kiépítési állapotot.
  • Sikeres üzembe helyezés esetén a rendszer minden forgalmat az új üzembehelyezési verzióra helyez át.
  • A rendszer minden korábbi üzembe helyezést töröl, hogy felszabadítsa a számítási kapacitást a jövőbeli üzemelő példányok számára.

A konfigurációs beállítások megismerése

Az AI/ML online végpontok minden támogatott funkciója támogatja az adott forgatókönyv testreszabását az alábbi szakaszokban ismertetett beállítások használatával.

Flow

A flow konfigurációs szakasz nem kötelező, és a következő értékeket támogatja:

  • név: A folyamat neve. Alapértelmezett érték, <service-name>-flow-<timestamp> ha nincs megadva.

  • elérési út: A folyamatjegyzéket tartalmazó mappa relatív elérési útja.

  • felülbírálások: A folyamatra alkalmazandó egyéni felülbírálások.

    Megjegyzés:

    Minden hívás azd deploy egy új időbélyeggel ellátott folyamatot hoz létre.

Környezet

A environment konfigurációs szakasz nem kötelező, és a következő értékeket támogatja:

  • név: Az egyéni környezet neve. Alapértelmezett érték, <service-name>-environment ha nincs megadva.

  • elérési út: Egy egyéni környezet yaml-jegyzékének relatív elérési útja.

  • felülbírálások: A környezetre alkalmazandó egyéni felülbírálások.

    Megjegyzés:

    Minden hívás azd deploy új környezeti verziót hoz létre.

Modell

A model konfigurációs szakasz nem kötelező, és a következő értékeket támogatja:

  • név: Az egyéni modell neve. Alapértelmezett érték, <service-name>-model ha nincs megadva.

  • elérési út: Egy egyéni modell YAML-jegyzékének relatív elérési útja.

  • felülbírálások: A modellre alkalmazandó egyéni felülbírálások.

    Megjegyzés:

    Minden hívás azd deploy új modellverziót hoz létre.

Deployment

A deployment konfigurációs szakasz szükséges , és a következő értékeket támogatja:

  • név: Az egyéni üzembe helyezés neve. Alapértelmezett érték, <service-name>-deployment ha nincs megadva.

  • elérési út: Egy egyéni üzembehelyezési yaml-jegyzék relatív elérési útja.

  • környezet: Kulcsértékpárok térképe az üzembe helyezés környezeti változóinak beállításához. Támogatja a környezeti változók ${VAR_NAME} szintaxis szerinti helyettesítését az OS/AZD környezeti változóival.

  • felülbírálások: Az üzembe helyezéshez alkalmazandó személyre szabott felülbírálások.

    Megjegyzés:

    Csak a felügyelt online telepítéseket támogatja.

AgentSchema és agent.yaml

Az AgentSchema egy nyílt specifikáció az AI-ügynökök kódelső YAML formátumban történő meghatározásához. A agent.yaml fájlok az ügynök konfigurációját ismertetik, beleértve annak modelljét, utasításait, eszközeit és kapcsolatait. Az AgentSchema egységes csereformátumként szolgál a Microsoft Copilot Studio, Microsoft Foundry és más platformok között.

Az AgentSchema két elsődleges formátumot támogat:

  • AgentDefinition – Egy közvetlenül végrehajtható ügynök teljes, konkrét specifikációja. Ezt a formátumot olyan egycélú ügynökökhöz használja, amelyekben az összes konfigurációs érték ismert és rögzített.
  • AgentManifest – Paraméteres sablon ügynökök dinamikus létrehozásához. Ezt a formátumot olyan újrafelhasználható ügynökmintákhoz használhatja, amelyekben az olyan értékek, mint a modellnevek, a kapcsolatok vagy az utasítások futásidőben, szintaxis használatával {{parameter}} vannak konfigurálva.

Példa agent.yaml

Az alábbi példa egy hosztolt agent.yaml definíciót mutat be, amelyet a azd telepíthet a Microsoft Foundryba. A tetején található sémaannotáció azt jelzi a YAML-t támogató szerkesztőknek, hogy a közzétett AgentSchema alapján ellenőrizzék a fájlt:

# yaml-language-server: $schema=https://raw.githubusercontent.com/microsoft/AgentSchema/refs/heads/main/schemas/v1.0/ContainerAgent.yaml

kind: hosted
name: customer-support
description: Handles customer inquiries and support requests
protocols:
  - protocol: responses
    version: v1
code_configuration:
  runtime: python_3_14
  entry_point: main.py

Ez a példa egy kind: hosted blokkot használcode_configuration, amely azt jelziazd, hogy a forráskódot ZIP-ként csomagolja be, és hagyja, hogy a Foundry kezelje a futtatókörnyezetet. Ha ehelyett előre összeállított tárolórendszerképet szeretne üzembe helyezni, cserélje le code_configuration egy image olyan mezőre, amely egy Azure Container Registry rendszerképre mutat.

Használat agent.yaml a következővel: azd

A azure.yaml séma támogatja a azure.ai.agent hoszt típust az ügynökök Microsoft Foundry-ben való üzembe helyezéséhez. Amikor a(z) host értékét azure.ai.agent értékre állítja, a(z) azd beolvassa a szolgáltatás könyvtárában található agent.yaml fájlt, és annak kind mezője alapján határozza meg, hogyan telepítse az ügynököt. További információkért tekintse meg az azure.yaml sémareferenciáját.

Támogatott kind értékek

A kind felső agent.yaml mező kiválasztja az üzembe helyezési alakzatot. azd érvényesíti ezt a mezőt az alábbi táblázatban szereplő értékekkel szemben, és elvet minden más értéket a telepítéskor.

kind Mit telepít a(z) azd Mikor érdemes használni?
hosted Egy Foundry által üzemeltetett ügynök. Az üzembe helyezés alüzemmódja attól függ, mely mezőket veszi fel a fájlba: adja hozzá a(z) code_configuration elemet a kód üzembe helyezéséhez (ZIP-feltöltés, Foundry által felügyelt futtatókörnyezet), vagy adja hozzá a(z) image elemet a tárolóalapú üzembe helyezéshez (az Azure Container Registryből származó előre elkészített lemezkép). A legtöbb, azd ai agent init által létrehozott ügynök. Használja a kód üzembe helyezését, ha azt szeretné, hogy a Foundry kezelje a futtatókörnyezetet; a tároló üzembe helyezését akkor használja, ha teljes körű vezérlésre van szüksége a rendszerkép felett.

Megjegyzés:

Az AgentSchema szélesebb körű specifikáció, mint amit azd ma üzembe helyez. Ha az AgentSchema-hivatkozásban egyéb kind értékeket lát (például csak promptot tartalmazó ügynökdefiníciókat), ezeket a formátumokat a azd nem támogatja, és a azd deploy sem fogadja el.

Az AgentSchema szolgáltatással kapcsolatos további információkért tekintse meg a következő erőforrásokat:

Kapcsolódó tartalom

Segítség kérése

Ha további információt szeretne megtudni arról, hogyan nyújthat be hibát, kérhet segítséget vagy javasolhat új funkciót a Azure fejlesztői parancssori felületéhez, látogasson el a troubleshooting és támogatás oldalra.

  • Utolsó frissítés időpontja: