Aracılığıyla paylaş


Spark DataFrame'lerde Data Wrangler'ı kullanma

Keşif veri analizi için not defteri tabanlı bir araç olan Data Wrangler artık hem Spark DataFrame'leri hem de pandas DataFrame'leri destekliyor. Python koduna ek olarak PySpark kodu oluşturur. Pandas DataFrames'i keşfetmeyi ve dönüştürmeyi kapsayan Data Wrangler'a genel bir genel bakış için ana öğreticiyi ziyaret edin. Bu öğreticide, Spark DataFrame'leri keşfetmek ve dönüştürmek için Data Wrangler'ın nasıl kullanılacağı gösterilmektedir.

Önkoşullar

Sınırlamalar

  • Özel kod işlemleri şu anda yalnızca pandas DataFrames için desteklenmektedir.
  • Data Wrangler ekranı büyük monitörlerde en iyi şekilde çalışır, ancak daha küçük ekranları barındırmak için arabirimin farklı bölümlerini simge durumuna küçültebilir veya gizleyebilirsiniz.

Spark DataFrame ile Data Wrangler'ı başlatma

Kullanıcılar Spark DataFrames'i Data Wrangler'da doğrudan bir Microsoft Fabric not defterinden, pandas DataFrames'in görüntülendiği aynı açılan komut istemine giderek açabilir. Etkin pandas değişkenleri listesinin altındaki açılan listede etkin Spark DataFrames listesi görüntülenir.

Bu kod parçacığı, pandas Data Wrangler öğreticisinde kullanılan örnek verileri içeren bir Spark DataFrame oluşturur:

import pandas as pd

# Read a CSV into a Spark DataFrame
sdf = spark.createDataFrame(pd.read_csv("https://raw.githubusercontent.com/plotly/datasets/master/titanic.csv"))
display(sdf)

Not defteri şeridindeki "Giriş" sekmesinde, düzenleme için kullanılabilen etkin DataFrame'lere göz atmak için Veri Wrangler açılan istemini kullanın. Data Wrangler'da açmak istediğiniz dosyayı seçin.

İpucu

Not defteri çekirdeği meşgulken veri Wrangler açılamaz. Bu ekran görüntüsünde gösterildiği gibi, yürütülen bir hücreNin Data Wrangler'ın başlatılabilmesi için önce yürütülmesini tamamlaması gerekir:

Veri Wrangler açılan istemiyle doku not defterini gösteren ekran görüntüsü.

Özel örnekler seçme

Data Wrangler, performans nedenleriyle Spark DataFrames'i otomatik olarak pandas örneklerine dönüştürür. Ancak, aracın oluşturduğu tüm kod, not defterine geri aktarıldığında nihai olarak PySpark'a çevrilir. Tüm pandas DataFrame'lerde olduğu gibi varsayılan örneği özelleştirebilirsiniz. Data Wrangler ile herhangi bir etkin DataFrame'in özel örneğini açmak için, bu ekran görüntüsünde gösterildiği gibi açılan listeden "Özel örnek seç"i seçin:

Özel örnek seçeneğinin özetlenmiş olduğu Veri Wrangler açılan istemini gösteren ekran görüntüsü.

Bu, bu ekran görüntüsünde gösterildiği gibi istenen örneğin boyutunu (satır sayısı) ve örnekleme yöntemini (ilk kayıtlar, son kayıtlar veya rastgele bir küme) belirtme seçeneklerini içeren bir açılır pencere başlatır:

Data Wrangler özel örnek istemini gösteren ekran görüntüsü.

Özet istatistikleri görüntüleme

Data Wrangler yüklendiğinde, önizleme kılavuzunun üzerinde bir bilgilendirme başlığı görüntüler. Bu başlıkta Spark DataFrames'in geçici olarak pandas örneklerine dönüştürüldüğü, ancak sonuçta oluşturulan tüm kodların PySpark'a dönüştürüldüğü açıklanmaktadır. Bundan sonra, Spark DataFrames'te Data Wrangler kullanmak pandas DataFrames'te kullanmaktan farklı değildir. "Özet" panelinde açıklayıcı bir genel bakış, örneğin boyutları, eksik değerleri ve daha fazlası hakkındaki bilgileri görüntüler. Data Wrangler kılavuzundaki herhangi bir sütunun seçilmesi, "Özet" panelinden bu sütunla ilgili açıklayıcı istatistikleri güncelleştirmesini ve görüntülemesini ister. Her sütunla ilgili hızlı içgörüler, üst bilgisinde de kullanılabilir.

İpucu

Sütuna özgü istatistikler ve görseller (hem "Özet" panelinde hem de sütun üst bilgilerinde) sütun veri türüne bağlıdır. Örneğin, bu ekran görüntüsünde gösterildiği gibi, sütun başlığında yalnızca sütun sayısal tür olarak yayınlanmışsa, sayısal sütunun binned histogramı görüntülenir:

Veri Wrangler görüntüleme kılavuzunu ve Özet panelini gösteren ekran görüntüsü.

Veri temizleme işlemlerine göz atma

Veri temizleme adımlarının aranabilir bir listesi "İşlemler" panelinde bulunabilir. "İşlemler" panelinden bir veri temizleme adımının seçilmesi, adımı tamamlamak için gerekli parametrelerle birlikte bir hedef sütun veya sütun sağlamanız istenir. Örneğin, bir sütunu sayısal olarak ölçeklendirme istemi, bu ekran görüntüsünde gösterildiği gibi yeni bir değer aralığı gerektirir:

Veri Wrangler İşlemleri panelini gösteren ekran görüntüsü.

İpucu

Bu ekran görüntüsünde gösterildiği gibi, her sütun üst bilgisinin menüsünden daha küçük bir işlem seçimi uygulayabilirsiniz:

Sütun üst bilgisi menüsünden uygulanabilen Veri Wrangler işlemini gösteren ekran görüntüsü.

İşlemleri önizleme ve uygulama

Veri Wrangler görüntüleme kılavuzu, seçili işlemin sonuçlarını otomatik olarak önizlemede görüntüler ve ilgili kod kılavuzun altındaki panelde otomatik olarak görüntülenir. Önizlenen kodu işlemek için her iki yerde de "Uygula"yı seçin. Önizlenen kodu silmek ve yeni bir işlem denemek için bu ekran görüntüsünde gösterildiği gibi "At"ı seçin:

Devam eden Veri Wrangler işlemini gösteren ekran görüntüsü.

Bir işlem uygulandıktan sonra, Data Wrangler görüntüleme kılavuzu ve özet istatistikleri sonuçları yansıtacak şekilde güncelleştirilir. Kod, bu ekran görüntüsünde gösterildiği gibi "Temizleme adımları" panelinde bulunan çalışan işlem listesinde görünür:

Uygulanan Veri Wrangler işlemini gösteren ekran görüntüsü.

İpucu

En son uygulanan adımı istediğiniz zaman geri alabilirsiniz. "Temizleme adımları" panelinde, imlecinizi bu ekran görüntüsünde gösterildiği gibi en son uygulanan adımın üzerine getirdiğinizde bir çöp kutusu simgesi görüntülenir:

Geri alınabilen Veri Wrangler işlemini gösteren ekran görüntüsü.

Bu tablo, Data Wrangler'ın şu anda desteklediği işlemleri özetler:

İşlem Açıklama
Sırala Sütunu artan veya azalan düzende sıralama
Filtre Satırları bir veya daha fazla koşula göre filtreleme
Tek erişimli kodlama Var olan bir sütundaki her benzersiz değer için, satır başına bu değerlerin varlığını veya yokluğunu gösteren yeni sütunlar oluşturun
Sınırlayıcı ile tek etkin kodlama Sınırlayıcı kullanarak kategorik verileri bölme ve tek erişimli kodlama
Sütun türünü değiştirme Sütunun veri türünü değiştirme
Sütunu bırak Bir veya daha fazla sütunu silme
Sütun seç Tutulacak bir veya daha fazla sütun seçin ve kalan sütunları silin
Sütunu yeniden adlandır Sütunu yeniden adlandırma
Eksik değerleri bırakma Eksik değerleri olan satırları kaldırma
Yinelenen satırları bırakma Yinelenen değerler içeren tüm satırları bir veya daha fazla sütuna bırakın
Eksik değerleri doldurma Hücreleri eksik değerlerle yeni bir değerle değiştirme
Bulma ve değiştirme Hücreleri tam olarak eşleşen bir desenle değiştirme
Sütuna ve toplamaya göre gruplandırma Sütun değerlerine göre gruplandırma ve sonuçları toplama
Beyaz alanı şeritle Metnin başından ve sonundan boşluk kaldırma
Metni bölme Bir sütunu kullanıcı tanımlı sınırlayıcıya göre birkaç sütuna bölme
Metni küçük harfe dönüştürme Metni küçük harfe dönüştürme
Metni büyük harfe dönüştürme Metni BÜYÜK HARFe dönüştürme
En düşük/en yüksek değerleri ölçeklendirme Sayısal sütunu en küçük ve en büyük değer arasında ölçeklendirme
Hızlı Doldurma Mevcut bir sütundan türetilen örnekleri temel alarak otomatik olarak yeni bir sütun oluşturma

Ekranınızı değiştirme

İstediğiniz zaman, Veri Wrangler görüntü kılavuzunun üzerinde bulunan araç çubuğundaki "Görünümler" sekmesiyle arabirimi özelleştirebilirsiniz. Bu, bu ekran görüntüsünde gösterildiği gibi tercihlerinize ve ekran boyutuna göre farklı bölmeleri gizleyebilir veya gösterebilir:

Görüntü görünümünü özelleştirmek için Veri Wrangler menüsünü gösteren ekran görüntüsü.

Kodu kaydetme ve dışarı aktarma

Data Wrangler görüntü kılavuzunun üzerindeki araç çubuğu, oluşturulan kodu kaydetmek için seçenekler sağlar. Kodu panoya kopyalayabilir veya işlev olarak not defterine aktarabilirsiniz. Spark DataFrames için pandas örneğinde oluşturulan tüm kod, not defterine geri dönmeden önce PySpark'a çevrilir. Data Wrangler kapanmadan önce, araç çevrilmiş PySpark kodunun önizlemesini görüntüler ve ara pandas kodunu dışarı aktarma seçeneği de sağlar.

İpucu

Data Wrangler, yalnızca yeni hücreyi el ile çalıştırdığınızda uygulanan kod oluşturur ve bu ekran görüntüsünde gösterildiği gibi özgün DataFrame'inizin üzerine yazmaz:

Data Wrangler'da kodu dışarı aktarma seçeneklerini gösteren ekran görüntüsü.

Kod, bu ekran görüntüsünde gösterildiği gibi PySpark'a dönüştürülür:

Data Wrangler'daki dışarı aktarma kodu isteminde PySpark önizlemesini gösteren ekran görüntüsü.

Bu ekran görüntüsünde gösterildiği gibi dışarı aktarılan kodu çalıştırabilirsiniz:

Data Wrangler tarafından oluşturulan kodu not defterine geri gösteren ekran görüntüsü.

  • Data Wrangler'a genel bakış için bu yardımcı makaleyi ziyaret edin
  • Visual Studio Code'da Data Wrangler'ı denemek için VS Code'da Data Wrangler'a gidin
  • İhtiyacınız olan bir özelliği kaçırdık mı? Bizimle paylaşın. Doku Fikirleri forumu'nda önerin