Megosztás a következőn keresztül:

CI-/CD-munkafolyamat futtatása a Databricks Asset Bundle és a GitHub Actions használatával

  • Cikk

Ez a cikk azt ismerteti, hogyan futtathat CI/CD -munkafolyamatot (folyamatos integráció/folyamatos üzembe helyezés) a GitHubon a GitHub Actions és a Databricks Asset Bundle használatával. Mik azok a Databricks-eszközcsomagok?

A GitHub Actions és a Databricks CLI bundle parancsaival automatizálhatja, testre szabhatja és futtathatja a CI/CD-munkafolyamatokat a GitHub-adattárakban.

Hozzáadhat GitHub Actions YAML-fájlokat, például az alábbiakat az adattár könyvtárához .github/workflows . Az alábbi példában a GitHub Actions YAML-fájl ellenőrzi, telepíti és futtatja a megadott feladatot a csomagban egy "qa" nevű éles üzem előtti célon belül, a csomagkonfigurációs fájlban definiálva. Ez a gitHub Actions YAML-fájl a következőre támaszkodik:

  • Az adattár gyökerében található csomagkonfigurációs fájl, amely a GitHub Actions YAML-fájl beállításával working-directory: . explicit módon deklarálva van (Ez a beállítás kihagyható, ha a csomagkonfigurációs fájl már az adattár gyökerénél van.) Ez a csomagkonfigurációs fájl definiál egy Azure Databricks-munkafolyamatot, és my-job egy célnevet.qa Lásd a Databricks-eszközcsomag konfigurációját.
  • Egy GitHub-titkos kód, SP_TOKENamely az Azure Databricks hozzáférési jogkivonatát jelöli egy Azure Databricks-szolgáltatásnévhez, amely ahhoz az Azure Databricks-munkaterülethez van társítva, amelyhez a csomagot üzembe helyezik és futtatják. Lásd: Titkosított titkos kódok.
# This workflow validates, deploys, and runs the specified bundle
# within a pre-production target named "qa".
name: "QA deployment"

# Ensure that only a single job or workflow using the same concurrency group
# runs at a time.
concurrency: 1

# Trigger this workflow whenever a pull request is opened against the repo's
# main branch or an existing pull request's head branch is updated.
on:
  pull_request:
    types:
      - opened
      - synchronize
    branches:
      - main

jobs:
  # Used by the "pipeline_update" job to deploy the bundle.
  # Bundle validation is automatically performed as part of this deployment.
  # If validation fails, this workflow fails.
  deploy:
    name: "Deploy bundle"
    runs-on: ubuntu-latest

    steps:
      # Check out this repo, so that this workflow can access it.
      - uses: actions/checkout@v3

      # Download the Databricks CLI.
      # See https://github.com/databricks/setup-cli
      - uses: databricks/setup-cli@main

      # Deploy the bundle to the "qa" target as defined
      # in the bundle's settings file.
      - run: databricks bundle deploy
        working-directory: .
        env:
          DATABRICKS_TOKEN: ${{ secrets.SP_TOKEN }}
          DATABRICKS_BUNDLE_ENV: qa

  # Validate, deploy, and then run the bundle.
  pipeline_update:
    name: "Run pipeline update"
    runs-on: ubuntu-latest

    # Run the "deploy" job first.
    needs:
      - deploy

    steps:
      # Check out this repo, so that this workflow can access it.
      - uses: actions/checkout@v3

      # Use the downloaded Databricks CLI.
      - uses: databricks/setup-cli@main

      # Run the Databricks workflow named "my-job" as defined in the
      # bundle that was just deployed.
      - run: databricks bundle run my-job --refresh-all
        working-directory: .
        env:
          DATABRICKS_TOKEN: ${{ secrets.SP_TOKEN }}
          DATABRICKS_BUNDLE_ENV: qa

A következő GitHub Actions YAML-fájl ugyanabban az adattárban létezhet, mint az előző fájl. Ez a fájl ellenőrzi, telepíti és futtatja a megadott csomagot egy "prod" nevű éles célon belül a csomagkonfigurációs fájlban definiált módon. Ez a gitHub Actions YAML-fájl a következőre támaszkodik:

  • Az adattár gyökerében található csomagkonfigurációs fájl, amely kifejezetten deklarálva van a GitHub Actions YAML-fájl beállításával working-directory: . (Ez a beállítás kihagyható, ha a csomagkonfigurációs fájl már az adattár gyökerénél van.) Ez a csomagkonfigurációs fájl definiál egy Azure Databricks-munkafolyamatot, és my-job egy célnevet.prod Lásd a Databricks-eszközcsomag konfigurációját.
  • Egy GitHub-titkos kód, SP_TOKENamely az Azure Databricks hozzáférési jogkivonatát jelöli egy Azure Databricks-szolgáltatásnévhez, amely ahhoz az Azure Databricks-munkaterülethez van társítva, amelyhez a csomagot üzembe helyezik és futtatják. Lásd: Titkosított titkos kódok.
# This workflow validates, deploys, and runs the specified bundle
# within a production target named "prod".
name: "Production deployment"

# Ensure that only a single job or workflow using the same concurrency group
# runs at a time.
concurrency: 1

# Trigger this workflow whenever a pull request is pushed to the repo's
# main branch.
on:
  push:
    branches:
      - main

jobs:
  deploy:
    name: "Deploy bundle"
    runs-on: ubuntu-latest

    steps:
      # Check out this repo, so that this workflow can access it.
      - uses: actions/checkout@v3

      # Download the Databricks CLI.
      # See https://github.com/databricks/setup-cli
      - uses: databricks/setup-cli@main

      # Deploy the bundle to the "prod" target as defined
      # in the bundle's settings file.
      - run: databricks bundle deploy
        working-directory: .
        env:
          DATABRICKS_TOKEN: ${{ secrets.SP_TOKEN }}
          DATABRICKS_BUNDLE_ENV: prod

  # Validate, deploy, and then run the bundle.
  pipeline_update:
    name: "Run pipeline update"
    runs-on: ubuntu-latest

    # Run the "deploy" job first.
    needs:
      - deploy

    steps:
      # Check out this repo, so that this workflow can access it.
      - uses: actions/checkout@v3

      # Use the downloaded Databricks CLI.
      - uses: databricks/setup-cli@main

      # Run the Databricks workflow named "my-job" as defined in the
      # bundle that was just deployed.
      - run: databricks bundle run my-job --refresh-all
        working-directory: .
        env:
          DATABRICKS_TOKEN: ${{ secrets.SP_TOKEN }}
          DATABRICKS_BUNDLE_ENV: prod

Lásd még