Not
Bu sayfaya erişim yetkilendirme gerektiriyor. Oturum açmayı veya dizinleri değiştirmeyi deneyebilirsiniz.
Bu sayfaya erişim yetkilendirme gerektiriyor. Dizinleri değiştirmeyi deneyebilirsiniz.
Lakeflow İşi'ndeki görevler için sunucusuz veya klasik işlem yapılandırın ve her görev için doğru türü seçin.
Önemli
İşler için sunucusuz işlem sınırlamaları şunlardır:
-
Sürekli zamanlama yalnızca gibi
Trigger.AvailableNowsınırlanmış Yapılandırılmış Akış tetikleyicileriyle desteklenir. Bkz. Çalışmaları sürekli yürütme. - Yapılandırılmış Akış'ta varsayılan veya zamana bağlı aralık tetikleyicileri için destek yoktur.
Daha fazla sınırlama için bkz . Sunucusuz işlem sınırlamaları.
Her işin bir veya daha fazla görevi olabilir. Her görev için işlem kaynaklarını tanımlarsınız. Aynı iş için tanımlanan birden çok görev aynı işlem kaynağını kullanabilir.
Her görev için önerilen işlem
Aşağıdaki tabloda, her görev türü için önerilen ve desteklenen işlem türleri gösterilir.
Uyarı
İşler için sunucusuz işlem sınırlamaları vardır ve tüm iş yüklerini desteklemez. Bkz. Sunucusuz işlem sınırlamaları.
| Görev | Önerilen hesaplama | Desteklenen hesaplama |
|---|---|---|
| Dizüstü Bilgisayarlar | Sunucusuz işler | Sunucusuz işler, klasik işler, klasik çok amaçlı |
| Python kodu | Sunucusuz işler | Sunucusuz işler, klasik işler, klasik çok amaçlı |
| Python tekerleği | Sunucusuz işler | Sunucusuz işler, klasik işler, klasik çok amaçlı |
| SQL | Sunucusuz SQL ambarı | Sunucusuz SQL ambarı, profesyonel SQL ambarı |
| Lakeflow işlem hatları | Sunucusuz işlem hattı | Sunucusuz işlem hattı, klasik işlem hattı |
| dbt | Sunucusuz SQL ambarı | Sunucusuz SQL ambarı, profesyonel SQL ambarı |
| dbt CLI komutları | Sunucusuz işler | Sunucusuz işler, klasik işler, klasik çok amaçlı |
| KAVANOZ | Klasik işler | Klasik işler, klasik çok amaçlı |
| Spark İş Gönderimi | Klasik işler | Klasik işler |
Lakeflow İşleri'nin fiyatlandırması, görevlerin çalıştırılması için kullanılan hesaplama kaynaklarıyla ilişkilidir. Daha fazla ayrıntı için bkz . Databricks fiyatlandırması.
İşler için hesaplamayı yapılandırın
Klasik işler işlemi doğrudan Lakeflow İşleri kullanıcı arabiriminden yapılandırılır ve bu yapılandırmalar iş tanımının bir parçasıdır. Diğer tüm kullanılabilir işlem türleri yapılandırmalarını diğer çalışma alanı varlıklarıyla birlikte depolar. Aşağıdaki tabloda daha fazla ayrıntı vardır:
| İşlem türü | Ayrıntılar |
|---|---|
| Klasik işler işlem | Klasik işler için işlem yapılandırmak için aynı kullanıcı arabirimini ve tüm amaçlı işlem için kullanılabilen ayarları kullanırsınız. Bkz. İşlem yapılandırma kaynağı. |
| İşler için sunucusuz işlem | İşler için sunucusuz işlem, onu destekleyen tüm görevler için varsayılan değerdir. Databricks sunucusuz işlem için işlem ayarlarını yönetir. İş akışları için bkz. Lakeflow İşlerinizi sunucusuz işlemle çalıştırma. |
| SQL ambarları | Sunucusuz ve profesyonel SQL ambarları, çalışma alanı yöneticileri veya sınırsız küme oluşturma ayrıcalıklarına sahip kullanıcılar tarafından yapılandırılır. Görevleri mevcut SQL ambarlarında çalışacak şekilde yapılandırabilirsiniz. Bkz Bir SQL ambarına bağlanma. |
| Lakeflow işlem hatları hesaplama | İşlem hattı yapılandırması sırasında Lakeflow işlem hatları için işlem ayarlarını yapılandırabilirsiniz. Bkz . İşlem hatları için klasik işlem yapılandırma. Azure Databricks sunucusuz Lakeflow işlem hatları için işlem kaynaklarını yönetir. Bkz . Sunucusuz işlem hattı yapılandırma. |
| Çok amaçlı işlem | İsteğe bağlı olarak klasik çok amaçlı işlem kullanarak görevleri yapılandırabilirsiniz. Databricks, üretim işleri için bu yapılandırmayı önermez. Bkz. İşlem yapılandırması referansı ve Sınırlı istisnalar. |
İşlemleri görevler arasında paylaşma
Birden çok görevi düzenleyen işler ile kaynak kullanımını optimize etmek için görevleri aynı hesaplama kaynaklarını kullanacak şekilde yapılandırın. İşlemlerin görevler arasında paylaşılması, başlatma süreleriyle ilişkili gecikme süresini azaltabilir.
İşin parçası olan tüm görevleri veya belirli iş yükleri için en iyi duruma getirilmiş birden çok iş kaynağını çalıştırmak için tek bir iş işlem kaynağı kullanabilirsiniz. bir işin parçası olarak yapılandırılan herhangi bir iş işlemi, işteki diğer tüm görevler için kullanılabilir.
Aşağıdaki tabloda, tek bir görev için yapılandırılan iş işlemi ile görevler arasında paylaşılan iş işlemi arasındaki farklar vurgulanmıştır:
| Tek görev | Görevler arasında paylaşılan | |
|---|---|---|
| Başlangıç | Görev yürütülmesi başladığında. | İşlem kaynağını kullanmak üzere yapılandırılan ilk görev çalıştırması başladığında. |
| Sonlandırmak | Görev çalıştırıldıktan sonra. | İşlem kaynağını kullanmak üzere yapılandırılan son görev çalıştırıldıktan sonra. |
| Boşta kalan işlem gücü | Uygulanamaz. | İşlem, işlem kaynağını kullanmayan görevler çalıştırılırken açık ve boşta kalır. |
Paylaşılan bir iş kümesi, yalnızca tek bir iş yürütme için kapsamlanmıştır ve aynı işin diğer görevleri veya yürütmeleri tarafından kullanılamaz.
Kitaplıklar paylaşılan bir iş kümesi yapılandırmasında bildirilemez. Görev ayarlarına bağımlı kitaplıklar eklemeniz gerekir.
Görevler arasında paylaşılan sürücü durumu
Birden çok görev bir iş işlem kaynağını paylaştığında, görevler aynı sürücü JVM'sinde çalışır. Sınıf durumu ve singletonlar, iş çalıştırması süresi boyunca görevler arasında korunur. Çoğu iş yükü için bu saydamdır, ancak aşağıdaki etkileri dikkate alın:
- Scala tekilleri ve yardımcı nesneleri görevler arasında paylaşılır. Scala eşlikçisi nesnesindeki değiştirilebilir durum, aynı paylaşılan kümede çalışan görevler arasında kalır. Paralel görevler aynı eşlikçi-nesne değişkeninden okur veya yazarsa, bir görevin değeri diğerinin üzerine yazabilir. Çalışan bir örnek için, Yanlış parametre değerleri kullanan çok görevli iş akışları bilgi bankası makalesine bakın.
- Bir görev tarafından yüklenen kitaplıklar, iş süresi boyunca sonraki görevler için kullanılabilir durumda kalır.
Kodunuz görev düzeyinde yalıtım gerektiriyorsa aşağıdaki yaklaşımlardan birini kullanın:
- Her görevi ayrı bir iş işlem kaynağı kullanacak şekilde yapılandırın.
- Görevlerin paralel değil sıralı olarak çalışması için açık görev bağımlılıkları ekleyin.
- Tekil nesne veya paylaşılan değiştirilebilir duruma bağlı kalmamak için kodu yeniden yapılandırın. Örneğin, parametreleri bir yardımcı nesneden okumak yerine her işleve açıkça geçirin.
İşlem görevlerini gözden geçirme, yapılandırma ve değiş tokuş etme
İş ayrıntıları bölmesindeki İşlem bölümünde, geçerli işteki görevler için yapılandırılmış tüm işlem listelenir.
İşlem belirtiminin üzerine geldiğinizde görev grafiğinde işlem kaynağı kullanmak üzere yapılandırılan görevler vurgulanır.
İşlem kaynağıyla ilişkili tüm görevlerin işlemini değiştirmek için Değiştir düğmesini kullanın.
Klasik işler işlem kaynakları için bir Yapılandır seçeneğine sahiptir. Diğer işlem kaynakları, işlem yapılandırma ayrıntılarını görüntüleme ve değiştirme seçenekleri sağlar.
Ek kaynaklar
Azure Databricks klasik işlerini yapılandırmaya ilişkin ek ayrıntılar için bkz. Lakeflow İşleri için klasik işlem yapılandırması.