Aracılığıyla paylaş


workflow orchestration manager için tanılama günlükleri ve ölçümleri

Not

Workflow Orchestration Manager, Apache Airflow tarafından desteklenir.

Bu makalede aşağıdaki adımlarda size yol gösterilir:

  • Azure Data Factory'de workflow orchestration manager için tanılama günlüklerini ve ölçümlerini etkinleştirin.
  • Günlükleri ve ölçümleri görüntüleyin.
  • Bir sorgu çalıştırın.
  • Ölçümleri izleyin ve uyarı sistemini yönlendirilmiş döngüsel grafik (DAG) hatasında ayarlayın.

Önkoşullar

Azure aboneliğine ihtiyacınız var. Azure aboneliğiniz yoksa başlamadan önce ücretsiz bir Azure hesabı oluşturun.

workflow orchestration manager için tanılama günlüklerini ve ölçümlerini etkinleştirme

  1. Data Factory kaynağınızı açın ve en soldaki bölmede Tanılama ayarları'nı seçin. Ardından Tanılama ayarı ekle'yi seçin.

    Tanılama günlükleri sekmesinin Data Factory'de nerede bulunduğunu gösteren ekran görüntüsü.

  2. Tanılama ayarları adını doldurun. Airflow günlükleri için aşağıdaki kategorileri seçin:

    • Airflow görev yürütme günlükleri
    • Hava akışı çalışanı günlükleri
    • Hava akışı DAG işleme günlükleri
    • Hava akışı zamanlayıcı günlükleri
    • Airflow web günlükleri
    • AllMetrics'i seçerseniz, uyarıları izlemeniz veya tetikleyebilmek için çeşitli Data Factory ölçümleri sağlanır. Bu ölçümler Data Factory etkinliğinin ölçümlerini ve ve AirflowIntegrationRuntimeMemorygibi AirflowIntegrationRuntimeCpuUsage workflow orchestration manager tümleştirme çalışma zamanını içerir.

    Airflow ortamı için hangi günlüklerin seçildiğini gösteren ekran görüntüsü.

  3. Hedef ayrıntıları'nın altında Log Analytics çalışma alanına gönder onay kutusunu seçin.

    Tanılama günlükleri için hedef olarak Log Analytics çalışma alanını seçmeyi gösteren ekran görüntüsü.

  4. Kaydet'i seçin.

Günlükleri görüntüleme

  1. Tanılama ayarlarını ekledikten sonra, bunları Tanılama ayarı bölümünde listelenmiş olarak bulabilirsiniz. Günlüklere erişmek ve günlükleri görüntülemek için yapılandırdığınız Log Analytics çalışma alanını seçin.

    Log Analytics çalışma alanı URL'sini seçmeyi gösteren ekran görüntüsü.

  2. Log Analytics deneyiminizi en üst düzeye çıkarın bölümünde Günlükleri görüntüle'yi seçin.

    Günlükleri görüntüle'yi seçmeyi gösteren ekran görüntüsü.

  3. Seçtiğiniz tabloların otomatik olarak çalışma alanına aktarıldığını görebileceğiniz Log Analytics çalışma alanınıza yönlendirilirsiniz.

    Log Analytics çalışma alanını gösteren ekran görüntüsü.

Şema için diğer yararlı bağlantılar:

Sorgu yazma

  1. içindeki tüm kayıtları ADFAirflowTaskLogsdöndüren en basit sorguyla başlayalım. Sorgu penceresine eklemek için tablo adına çift tıklayabilirsiniz. Tablo adını doğrudan pencereye de girebilirsiniz.

    Tüm günlükleri almak için kusto sorgusunu gösteren ekran görüntüsü.

  2. Arama sonuçlarınızı belirli bir görev kimliğine göre filtreleme gibi daraltmak için aşağıdaki sorguyu kullanabilirsiniz:

    ADFAirflowTaskLogs
    | where DagId == "<your_dag_id>"
    and TaskId == "<your_task_id>"
    

Benzer şekilde, içinde LogManagementbulunan tabloları kullanarak gereksinimlerinize göre özel sorgular oluşturabilirsiniz.

Daha fazla bilgi için bkz.

İzleyici ölçümleri

Data Factory, Airflow tümleştirme çalışma zamanları için kapsamlı ölçümler seçerek Airflow tümleştirme çalışma zamanınızın performansını etkili bir şekilde izlemenize ve gerektiğinde uyarı mekanizmaları oluşturmanıza olanak tanır.

  1. Data Factory kaynağınızı açın.

  2. En soldaki bölmede, İzleme bölümünün altında Ölçümler'i seçin.

    Ölçümler sekmesinin Data Factory'de nerede bulunduğunu gösteren ekran görüntüsü.

  3. İzlemek istediğiniz Kapsam>Ölçümü Ad Alanı>Ölçümünü seçin.

    Seçecek ölçümleri gösteren ekran görüntüsü.

  4. Integration Runtime CPU Yüzdesini ve Integration Runtime Dag Çanta Boyutunu görselleştiren çok satırlı grafiği gözden geçirin.

    Çok satırlı ölçüm grafiğini gösteren ekran görüntüsü.

  5. Ölçümleriniz belirli koşulları karşıladığında tetikleyen bir uyarı kuralı ayarlayabilirsiniz. Daha fazla bilgi için bkz . Azure İzleyici uyarılarına genel bakış.

  6. Grafiğiniz bittikten sonra panoya kaydet'i seçin, aksi halde grafiğiniz kaybolur.

    Panoya kaydet'i gösteren ekran görüntüsü.

Hava akışı ölçümleri

İş Akışı Düzenleme Yöneticisi'nde kullanılabilen ölçümleri görmek için Desteklenen ölçümler tablosunda listelenen Airflow ölçümlerini görüntüleyin.