Mengendalikan aliran tugas pada Lakeflow Jobs

Beberapa pekerjaan hanyalah daftar tugas yang perlu diselesaikan. Anda dapat mengontrol urutan eksekusi tugas dengan menentukan dependensi di antaranya. Anda dapat mengonfigurasi tugas untuk dijalankan secara berurutan atau paralel.

Namun, Anda juga dapat membuat alur percabangan yang mencakup tugas bersyarat, koreksi kesalahan, atau pembersihan. Lakeflow Jobs menyediakan fungsionalitas untuk mengontrol alur tugas dalam proyek. Topik berikut menjelaskan cara mengontrol alur tugas Anda.

Pengulangan

Berapa kali tugas tertentu harus diulang jika tugas tersebut gagal yang menghasilkan pesan kesalahan. Kesalahan sering bersifat sementara dan diselesaikan melalui mulai ulang. Beberapa fitur di Azure Databricks, seperti evolusi skema dengan Streaming Terstruktur, asumsikan bahwa Anda menjalankan pekerjaan dengan percobaan ulang untuk mengatur ulang lingkungan dan memungkinkan alur kerja untuk melanjutkan.

Jika Anda menentukan percobaan ulang untuk tugas, tugas dimulai ulang hingga berapa kali yang ditentukan jika mengalami kesalahan. Tidak semua konfigurasi pekerjaan mendukung percobaan ulang tugas. Lihat Mengatur kebijakan coba lagi.

Saat berjalan dalam mode pemicu berkelanjutan, Databricks secara otomatis mencoba kembali dengan backoff eksponensial. Lihat Bagaimana kegagalan ditangani untuk pekerjaan berkelanjutan?.

Jalankan jika tugas kondisional

Anda dapat menggunakan jenis tugas Jalankan jika untuk menentukan kondisi bersyarat untuk tugas selanjutnya berdasarkan hasil dari tugas-tugas lainnya. Anda menambahkan tugas ke pekerjaan Anda dan menentukan tugas yang bergantung pada upstream. Berdasarkan status tugas tersebut, Anda dapat mengonfigurasi satu atau beberapa tugas hilir untuk dijalankan. Pekerjaan mendukung dependensi berikut:

  • Semua berhasil
  • Setidaknya satu berhasil
  • Tidak ada yang gagal
  • Semua selesai
  • Setidaknya satu gagal
  • Semua gagal

Lihat Mengonfigurasi dependensi tugas

Tugas kondisional If/else

Anda dapat menggunakan jenis tugas If/else untuk menentukan kondisional berdasarkan beberapa nilai. Lihat Tambahkan logika percabangan ke pekerjaan dengan tugas If/else.

taskValues Lakeflow Jobs mendukung yang Anda tentukan dalam logika Anda dan memungkinkan Anda mengembalikan hasil dari beberapa komputasi atau keadaan dari tugas ke lingkungan pekerjaan. Anda dapat menentukan If/else kondisi terhadap taskValues, parameter pekerjaan, atau nilai dinamis.

Lakeflow Jobs mendukung operan berikut untuk kondisi:

  • ==
  • !=
  • >
  • >=
  • <
  • <=

Lihat juga:

Untuk setiap tugas

Gunakan tugas For each untuk menjalankan tugas lain dalam perulangan, meneruskan serangkaian parameter yang berbeda ke setiap perulangan tugas.

Untuk menambahkan tugas For each ke pekerjaan, Anda harus menentukan tugas For each dan tugas berlapis . Tugas berlapis adalah tugas yang dijalankan untuk setiap perulangan tugas For each dan merupakan salah satu jenis tugas Databricks standar. Beberapa metode didukung untuk meneruskan parameter ke tugas berlapis.

Lihat Gunakan For each tugas untuk menjalankan tugas lain dalam perulangan.

Tugas yang dinonaktifkan

Nonaktifkan tugas untuk melewatinya pada waktu proses tanpa menghapusnya dari pekerjaan. Tugas ini menyimpan konfigurasi dan riwayat eksekusinya, dan Pekerjaan Lakeflow mengevaluasi tugas-tugas hilir terhadap kondisi tugas-tugas tersebut Run if untuk menentukan apakah tugas-tugas tersebut juga harus dijalankan.

Lihat Tugas yang dinonaktifkan di Jobs Lakeflow.