Azure Data Factory'i izleme

Bu makalede şunlar açıklanmaktadır:

• Bu hizmet için toplayabileceğiniz izleme verilerinin türleri.
• Bu verileri analiz etmenin yolları.

Not

Bu hizmeti ve/veya Azure İzleyici'yi zaten biliyorsanız ve yalnızca izleme verilerinin nasıl çözümleneceğini öğrenmek istiyorsanız, bu makalenin sonundaki Çözümle bölümüne bakın.

Azure kaynaklarını kullanan kritik uygulamalarınız ve iş süreçleriniz varsa sisteminiz için uyarıları izlemeniz ve almanız gerekir. Azure İzleyici hizmeti, sisteminizin her bileşeninden ölçümleri ve günlükleri toplar ve toplar. Azure İzleyici kullanılabilirlik, performans ve dayanıklılığın bir görünümünü sağlar ve sorunları size bildirir. İzleme verilerini ayarlamak ve görüntülemek için Azure portalı, PowerShell, Azure CLI, REST API veya istemci kitaplıklarını kullanabilirsiniz.

• Azure İzleyici hakkında daha fazla bilgi için bkz. Azure İzleyici'ye genel bakış.
• Azure kaynaklarını genel olarak izleme hakkında daha fazla bilgi için bkz . Azure İzleyici ile Azure kaynaklarını izleme.

İzleme yöntemleri

Azure Data Factory'yi izlemenin çeşitli yolları vardır.

Azure Data Factory Studio

Data Factory işlem hattı çalıştırmalarınızın tümünü Azure Data Factory Studio'da yerel olarak izleyebilirsiniz. İzleme deneyimini açmak için Azure portalındaki Data Factory sayfanızdan Studio'yu Başlat'ı seçin ve Azure Data Factory Studio'da sol menüden İzleyici'yi seçin.

Azure Data Factory Studio'da izleme hakkında daha fazla bilgi için aşağıdaki makalelere bakın:

• Azure Data Factory’yi görsel olarak izleme
• Veri akışı izleme
• Kopyalama etkinliğini izleme
• Kopyalama etkinliği oturum günlüğü

Azure portal

Azure Data Factory'yi doğrudan Azure portalından da izleyebilirsiniz. Data Factory'nizin Azure portalı Genel Bakış sayfasında çeşitli ölçüm grafikleri görüntülenir. Sol kenar çubuğu menüsünde Azure Etkinlik günlüğüne erişebilir veya İzleme bölümünden Uyarılar, Ölçümler, Tanılama ayarları veya Günlükler'i seçebilirsiniz.

Program aracılığıyla izleme

.NET, PowerShell, Python veya REST API kullanarak Data Factory işlem hatlarını program aracılığıyla izleyebilirsiniz. Daha fazla bilgi için aşağıdaki makaleleri inceleyin:

• Azure Data Factory'i program aracılığıyla izleme
• Azure İzleyici REST API'sini kullanarak tanılama günlüklerini ayarlama

Kaynak türleri

Azure, abonelikteki her şeyi tanımlamak için kaynak türleri ve kimlikler kavramını kullanır. Azure İzleyici, çekirdek izleme verilerini benzer şekilde, ad alanları olarak da adlandırılan kaynak türlerine göre ölçümler ve günlükler halinde düzenler. Farklı kaynak türleri için farklı ölçümler ve günlükler kullanılabilir. Hizmetiniz birden fazla kaynak türüyle ilişkilendirilebilir.

Kaynak türleri, Azure'da çalışan her kaynağın kaynak kimliklerinin de bir parçasıdır. Örneğin, bir sanal makine için kaynak türünden biri olur Microsoft.Compute/virtualMachines. Hizmetlerin ve ilişkili kaynak türlerinin listesi için bkz . Kaynak sağlayıcıları.

Azure Data Factory için kaynak türleri hakkında daha fazla bilgi için bkz . Data Factory izleme veri başvurusu.

Veri depolama

Azure İzleyici için:

• Ölçüm verileri Azure İzleyici ölçüm veritabanında depolanır.
• Günlük verileri Azure İzleyici günlükleri deposunda depolanır. Log Analytics, Azure portalında bu depoyu sorgulayan bir araçtır.
• Azure etkinlik günlüğü, Azure portalında kendi arabirimine sahip ayrı bir depodur.

İsteğe bağlı olarak ölçüm ve etkinlik günlüğü verilerini Azure İzleyici günlük deposuna yönlendirebilirsiniz. Ardından Log Analytics'i kullanarak verileri sorgulayabilir ve diğer günlük verileriyle ilişkilendirebilirsiniz.

Birçok hizmet, ölçüm ve günlük verilerini Azure İzleyici dışındaki diğer depolama konumlarına göndermek için tanılama ayarlarını kullanabilir. Örnek olarak Event Hubs kullanarak Azure Depolama, barındırılan iş ortağı sistemleri ve Azure dışı iş ortağı sistemleri verilebilir.

Azure İzleyici'nin verileri nasıl depolandığı hakkında ayrıntılı bilgi için bkz . Azure İzleyici veri platformu.

Data Factory işlem hattı çalıştırma verilerini depolama

Data Factory, işlem hattı çalıştırma verilerini yalnızca 45 gün boyunca depolar. Verileri daha uzun süre tutmak istiyorsanız tanılama günlüklerini yönlendirmek için Azure İzleyici'yi kullanın.

Karmaşık sorgularla analiz etmek, özel uyarılar oluşturmak veya veri fabrikaları arasında izlemek istiyorsanız verileri Log Analytics'e yönlendirin. Birden çok veri fabrikasındaki verileri tek bir Log Analytics çalışma alanına yönlendirebilirsiniz.

Günlükleri yayan kaynağın aboneliğinde olmayan bir depolama hesabı veya olay hub'ı ad alanı kullanabilirsiniz. Ayarı yapılandıran kullanıcının her iki aboneliğe de uygun Azure rol tabanlı erişim denetimi (Azure RBAC) erişimi olmalıdır.

Azure İzleyici platform ölçümleri

Azure İzleyici çoğu hizmet için platform ölçümleri sağlar. Bu ölçümler şunlardır:

• Her ad alanı için ayrı ayrı tanımlanır.
• Azure İzleyici zaman serisi ölçüm veritabanında depolanır.
• Hafif ve neredeyse gerçek zamanlı uyarıyı destekleyebilecek.
• Bir kaynağın zaman içindeki performansını izlemek için kullanılır.

Koleksiyon: Azure İzleyici, platform ölçümlerini otomatik olarak toplar. Yapılandırma gerekmez.

Yönlendirme: Platform ölçümlerini genellikle Azure İzleyici Günlüklerine / Log Analytics'e yönlendirerek bunları diğer günlük verileriyle sorgulayabilirsiniz. Daha fazla bilgi için Ölçüm tanılama ayarına bakın. Bir hizmet için tanılama ayarlarını yapılandırma hakkında bilgi için bkz . Azure İzleyici'de tanılama ayarları oluşturma.

Azure İzleyici'deki tüm kaynaklar için toplamanın mümkün olduğu tüm ölçümlerin listesi için bkz . Azure İzleyici'de desteklenen ölçümler.

Data Factory için kullanılabilir ölçümlerin listesi için bkz . Data Factory izleme veri başvurusu.

Azure İzleyici kaynak günlükleri

Kaynak günlükleri, bir Azure kaynağı tarafından yapılan işlemler hakkında içgörü sağlar. Günlükler otomatik olarak oluşturulur, ancak bunları kaydetmek veya sorgulamak için Azure İzleyici günlüklerine yönlendirmeniz gerekir. Günlükler kategoriler halinde düzenlenir. Belirli bir ad alanının birden çok kaynak günlüğü kategorisi olabilir.

Koleksiyon: Bir tanılama ayarı oluşturup günlükleri bir veya daha fazla konuma yönlendirene kadar kaynak günlükleri toplanmaz ve depolanmaz. Tanılama ayarı oluşturduğunuzda hangi günlük kategorilerinin toplanacağını belirtirsiniz. Azure portalı, program aracılığıyla ve ancak Azure İlkesi dahil olmak üzere tanılama ayarlarını oluşturmanın ve korumanın birden çok yolu vardır.

Yönlendirme: Önerilen varsayılan ayar, kaynak günlüklerini diğer günlük verileriyle sorgulayabileceğiniz Azure İzleyici Günlüklerine yönlendirmektir. Azure Depolama, Azure Event Hubs ve belirli Microsoft izleme iş ortakları gibi diğer konumlar da kullanılabilir. Daha fazla bilgi için bkz . Azure kaynak günlükleri ve Kaynak günlüğü hedefleri.

Kaynak günlüklerini toplama, depolama ve yönlendirme hakkında ayrıntılı bilgi için bkz . Azure İzleyici'de tanılama ayarları.

Azure İzleyici'deki tüm kullanılabilir kaynak günlüğü kategorilerinin listesi için bkz . Azure İzleyici'de desteklenen kaynak günlükleri.

Azure İzleyici'deki tüm kaynak günlükleri aynı üst bilgi alanlarına ve ardından hizmete özgü alanlara sahiptir. Ortak şema, Azure İzleyici kaynak günlüğü şemasında özetlenmiştir.

• Kullanılabilir Data Factory kaynak günlüğü kategorileri, ilişkili Log Analytics tabloları ve günlük şemaları için bkz . Data Factory izleme verileri başvurusu.

• Tanılama ayarlarını ve Log Analytics çalışma alanını Data Factory'yi izlemek üzere yapılandırmak için bkz . Tanılama ayarlarını ve çalışma alanını yapılandırma.

Azure etkinlik günlüğü

Etkinlik günlüğü, bu kaynağın dışından görüldüğü gibi her Azure kaynağı için işlemleri izleyen abonelik düzeyinde olaylar içerir; örneğin, yeni bir kaynak oluşturma veya sanal makine başlatma.

Koleksiyon: Etkinlik günlüğü olayları otomatik olarak oluşturulur ve Azure portalında görüntülemek üzere ayrı bir depoda toplanır.

Yönlendirme: Etkinlik günlüğü verilerini Azure İzleyici Günlüklerine göndererek diğer günlük verileriyle birlikte analiz edebilirsiniz. Azure Depolama, Azure Event Hubs ve belirli Microsoft izleme iş ortakları gibi diğer konumlar da kullanılabilir. Etkinlik günlüğünü yönlendirme hakkında daha fazla bilgi için bkz . Azure etkinlik günlüğüne genel bakış.

Tümleştirme çalışma zamanlarını izleme

Tümleştirme çalışma zamanı, Data Factory'nin farklı ağ ortamlarında veri tümleştirme özellikleri sağlamak için kullandığı işlem altyapısıdır. Data Factory çeşitli tümleştirme çalışma zamanları türleri sunar:

• Azure tümleştirme çalışma zamanı
• Şirket içinde barındırılan integration runtime
• Azure-SQL Server Integration Services (SSIS) tümleştirme çalışma zamanı
• Apache Airflow tümleştirme çalışma zamanı

Azure İzleyici, tümleştirme çalışma zamanı türlerinin ölçümlerini ve tanılama günlüklerini toplar. Tümleştirme çalışma zamanlarını izleme hakkında ayrıntılı yönergeler için aşağıdaki makalelere bakın:

• Azure Data Factory'deki tümleştirme çalışma zamanını izleme
• Yönetilen sanal ağ içindeki tümleştirme çalışma zamanını izleme
• Azure'da şirket içinde barındırılan tümleştirme çalışma zamanını izleme
• Log Analytics koleksiyonu için şirket içinde barındırılan tümleştirme çalışma zamanını yapılandırma
• Azure İzleyici ile SSIS işlemlerini izleme
• Apache Airflow için tanılama günlükleri ve ölçümleri

İzleme verilerini analiz etme

İzleme verilerini analiz etmek için birçok araç vardır.

Azure İzleyici araçları

Azure İzleyici aşağıdaki temel araçları destekler:

• Azure portalında Azure kaynaklarına yönelik ölçümleri görüntülemenize ve analiz etmenizi sağlayan bir araç olan Ölçüm gezgini. Daha fazla bilgi için bkz . Azure İzleyici ölçüm gezginiyle ölçümleri analiz etme.

• Azure portalında Kusto sorgu dilini (KQL) kullanarak günlük verilerini sorgulamanıza ve analiz etmenizi sağlayan bir araç olan Log Analytics. Daha fazla bilgi için bkz . Azure İzleyici'de günlük sorgularını kullanmaya başlama.

• Azure portalında görüntülemeye ve temel aramalara yönelik bir kullanıcı arabirimine sahip olan etkinlik günlüğü. Daha ayrıntılı analiz yapmak için verileri Azure İzleyici günlüklerine yönlendirmeniz ve Log Analytics'te daha karmaşık sorgular çalıştırmanız gerekir.

Daha karmaşık görselleştirmelere olanak sağlayan araçlar şunlardır:

• Farklı veri türlerini Azure portalında tek bir bölmede birleştirmenize olanak sağlayan panolar .
• Çalışma kitapları, Azure portalında oluşturabileceğiniz özelleştirilebilir raporlar. Çalışma kitapları metin, ölçüm ve günlük sorguları içerebilir.
• Grafana, işletimsel panolarda üstünlük sağlayan açık bir platform aracıdır. Azure İzleyici dışındaki birden çok kaynaktan veri içeren panolar oluşturmak için Grafana'yı kullanabilirsiniz.
• Çeşitli veri kaynakları genelinde etkileşimli görselleştirmeler sağlayan bir iş analizi hizmeti olan Power BI. Bu görselleştirmelerden yararlanmak için Power BI'ı günlük verilerini Azure İzleyici'den otomatik olarak içeri aktaracak şekilde yapılandırabilirsiniz.

Azure İzleyici dışarı aktarma araçları

Aşağıdaki yöntemleri kullanarak Azure İzleyici'nin verilerini diğer araçlara alabilirsiniz:

• Ölçümler: Azure İzleyici ölçüm veritabanından ölçüm verilerini ayıklamak için ölçümler için REST API'sini kullanın. API, alınan verileri iyileştirmek için filtre ifadelerini destekler. Daha fazla bilgi için bkz . Azure İzleyici REST API başvurusu.

• Günlükler: REST API'sini veya ilişkili istemci kitaplıklarını kullanın.

• Bir diğer seçenek de çalışma alanı verilerini dışarı aktarmadır.

Azure İzleyici için REST API'yi kullanmaya başlamak için bkz . Azure izleme REST API'sini izleme kılavuzu.

REST API kullanarak tanılama günlüklerini yapılandırma hakkında ayrıntılı yönergeler için bkz . Azure İzleyici REST API'sini kullanarak tanılama günlüklerini ayarlama.

Kusto sorguları

Kusto sorgu dilini (KQL) kullanarak Azure İzleyici Günlükleri/Log Analytics deposundaki izleme verilerini analiz edebilirsiniz.

Önemli

Portaldaki hizmetin menüsünden Günlükler'i seçtiğinizde Log Analytics açılır ve sorgu kapsamı geçerli hizmete ayarlanır. Bu kapsam, günlük sorgularının yalnızca bu kaynak türündeki verileri içereceği anlamına gelir. Diğer Azure hizmetlerinden veri içeren bir sorgu çalıştırmak istiyorsanız Azure İzleyici menüsünden Günlükler'i seçin. Ayrıntılar için bkz . Azure İzleyici Log Analytics'te günlük sorgusu kapsamı ve zaman aralığı.

Herhangi bir hizmet için yaygın sorguların listesi için bkz . Log Analytics sorguları arabirimi.

Örneğin sorgular, Azure portalında Data Factory sayfanızın sol gezinti bölmesinde İzleme'nin altında Günlükler'i seçin ve ardından Sorgular sekmesini seçin. Bazı örnek sorgular şunlardır:

PipelineRuns kullanılabilirliği: İşlem hattı çalıştırmalarının kullanılabilirliğini verir.

ADFPipelineRun
| where Status != 'InProgress' and Status != 'Queued'
| where FailureType != 'UserError'
| summarize availability = 100.00 - (100.00*countif(Status != 'Succeeded') / count())  by bin(TimeGenerated, 1h)), _ResourceId
| order by TimeGenerated asc
| render timechart

Etkinlik ilk 5 hatasını çalıştırır: Sistem hatalarıyla başarısız olan ilk beş etkinliği döndürür.

ADFActivityRun 
| where TimeGenerated >= ago(24h)
| where Status != 'InProgress' and Status != 'Queued'
| where FailureType != 'UserError'
| where ActivityName  in (name)
| summarize failureCount = countif(Status != 'Succeeded') by bin(TimeGenerated, 1h), ActivityName
| top 5 by failureCount desc nulls last
| order by TimeGenerated asc
| render timechart

İşlem hattı en son durumu çalıştırır: İşlem hattı çalıştırmalarının en son durumunu döndürür.

ADFPipelineRun
| summarize argmax(TimeGenerated, * ) by RunId, Status, _ResourceId

Uyarılar

Azure İzleyici uyarıları, izleme verilerinizde belirli koşullar bulunduğunda sizi proaktif olarak bilgilendirir. Uyarılar, müşterileriniz fark etmeden önce sisteminizdeki sorunları tanımlamanıza ve çözmenize olanak sağlar. Daha fazla bilgi için bkz . Azure İzleyici uyarıları.

Azure kaynakları için birçok yaygın uyarı kaynağı vardır. Azure kaynaklarına yönelik yaygın uyarı örnekleri için bkz . Örnek günlük uyarısı sorguları. Azure İzleyici Temel Uyarıları (AMBA) sitesi, önemli platform ölçüm uyarılarını, panolarını ve yönergelerini uygulamak için yarı otomatik bir yöntem sağlar. Site, Azure Giriş Bölgesi'nin (ALZ) parçası olan tüm hizmetler de dahil olmak üzere Azure hizmetlerinin sürekli olarak genişleyen bir alt kümesi için geçerlidir.

Ortak uyarı şeması, Azure İzleyici uyarı bildirimlerinin kullanımını standartlaştırır. Daha fazla bilgi için bkz . Ortak uyarı şeması.

Uyarı türleri

Azure İzleyici veri platformundaki herhangi bir ölçüm veya günlük veri kaynağı hakkında uyarı alabilirsiniz. İzlediğiniz hizmetlere ve topladığınız izleme verilerine bağlı olarak birçok farklı uyarı türü vardır. Farklı uyarı türlerinin çeşitli avantajları ve dezavantajları vardır. Daha fazla bilgi için bkz . Doğru izleme uyarı türünü seçme.

Aşağıdaki listede oluşturabileceğiniz Azure İzleyici uyarılarının türleri açıklanmaktadır:

• Ölçüm uyarıları , kaynak ölçümlerini düzenli aralıklarla değerlendirir. Ölçümler platform ölçümleri, özel ölçümler, Azure İzleyici'den ölçümlere dönüştürülen günlükler veya Application Insights ölçümleri olabilir. Ölçüm uyarıları birden çok koşul ve dinamik eşik de uygulayabilir.
• Günlük uyarıları , kullanıcıların önceden tanımlanmış bir sıklıkta kaynak günlüklerini değerlendirmek için Log Analytics sorgusu kullanmasına olanak sağlar.
• Etkinlik günlüğü uyarıları , tanımlı koşullarla eşleşen yeni bir etkinlik günlüğü olayı oluştuğunda tetikler. Kaynak Durumu uyarıları ve Hizmet Durumu uyarıları, hizmetiniz ve kaynak durumunuz hakkında rapor veren etkinlik günlüğü uyarılarıdır.

Bazı Azure hizmetleri akıllı algılama uyarılarını, Prometheus uyarılarını veya önerilen uyarı kurallarını da destekler.

Bazı hizmetler için, aynı Azure bölgesinde bulunan aynı türdeki birden çok kaynağa aynı ölçüm uyarı kuralını uygulayarak büyük ölçekte izleyebilirsiniz. İzlenen her kaynak için tek tek bildirimler gönderilir. Desteklenen Azure hizmetleri ve bulutları için bkz . Tek bir uyarı kuralıyla birden çok kaynağı izleme.

Data Factory uyarı kuralları

Uyarıları oluşturmak ve yönetmek için Azure portalındaki Data Factory sayfanızın sol gezinti bölmesinde İzleme'nin altındaUyarılar'ı seçin.

Aşağıdaki tabloda Data Factory için popüler uyarı kuralları listelenir. Bu yalnızca önerilen bir listedir. Data Factory izleme veri başvurusunda listelenen herhangi bir ölçüm, günlük girişi veya etkinlik günlüğü girişi için uyarılar ayarlayabilirsiniz.

Uyarı türü	Koşul	Açıklama
Metric	Başarısız işlem hattı çalıştırma ölçümleri	Toplam Başarısız işlem hattı çalıştırması ölçümleri 0'dan büyük olduğunda
Metric	Toplam varlık sayısı	Maksimum Toplam varlık sayısı 1700000'den büyük olduğunda
Metric	İzin verilen en fazla varlık sayısı	Maksimum Toplam fabrika boyutu (GB birimi) 6'dan büyük olduğunda

Bildirimler, işlem hattının yürütülmesi sırasında veya sonrasında proaktif uyarı sağlar.

• Azure Data Factory işlem hattıyla e-posta gönderme, işlem hattı uyarılarından gelen e-posta bildirimlerini yapılandırmayı gösterir.
• Azure Data Factory işlem hattından Microsoft Teams kanalına bildirim gönderme, işlem hattı uyarılarından Microsoft Teams'e bildirimlerin nasıl yapılandırılacağını gösterir.

Danışman önerileri

Bazı hizmetler için, kaynak işlemleri sırasında kritik koşullar veya yakın değişiklikler gerçekleşirse portaldaki hizmete Genel Bakış sayfasında bir uyarı görüntülenir. Uyarı için daha fazla bilgi ve önerilen düzeltmeleri soldaki menüde İzleme altında Danışman önerileri bölümünde bulabilirsiniz. Normal işlemler sırasında hiçbir danışman önerisi görüntülenmez.

Azure Danışmanı hakkında daha fazla bilgi için bkz . Azure Danışmanına genel bakış.

İlgili içerik

• Data Factory için oluşturulan ölçümlerin, günlüklerin ve diğer önemli değerlerin başvurusu için bkz . Data Factory izleme veri başvurusu.
• Azure kaynaklarını izleme hakkında genel ayrıntılar için bkz . Azure İzleyici ile Azure kaynaklarını izleme.