Language

DataFrame クラス

定義

名前付き列に編成されたデータの分散コレクション。

public sealed class DataFrame
type DataFrame = class
Public NotInheritable Class DataFrame
継承
DataFrame

プロパティ

名前 説明
Item[String]

列名に基づいて列を選択します。

メソッド

名前 説明
Agg(Column, Column[])

グループを含まない DataFrame 全体を集計します。

Alias(String)

エイリアス が設定された新しい DataFrame を返します。 As() と同じです。

As(String)

エイリアス が設定された新しい DataFrame を返します。

Cache()

この DataFrame は、既定のストレージ レベルのMEMORY_AND_DISKで保持します。

Checkpoint(Boolean)

この DataFrameのチェックポイント付きバージョンを返します。

Coalesce(Int32)

要求されるパーティションの数が少ない場合に、正確にnumPartitionsパーティションを持つ新しいDataFrameを返します。 より多くのパーティションが要求された場合は、現在の数のパーティションにとどまります。

Col(String)

列名に基づいて列を選択します。

Collect()

この DataFrame内のすべての行を含む配列を返します。

ColRegex(String)

正規表現として指定された列名に基づいて列を選択します。

Columns()

すべての列名を返します。

Count()

DataFrame内の行数を返します。

CreateGlobalTempView(String)

指定した名前を使用してグローバル一時ビューを作成します。 この一時ビューの有効期間は、この Spark アプリケーションに関連付けられています。

CreateOrReplaceGlobalTempView(String)

指定した名前を使用してグローバル一時ビューを作成または置換します。 この一時ビューの有効期間は、この Spark アプリケーションに関連付けられています。

CreateOrReplaceTempView(String)

指定した名前を使用して、ローカルの一時ビューを作成または置換します。 この一時ビューの有効期間は、この DataFrameを作成した SparkSession に関連付けられています。

CreateTempView(String)

指定した名前を使用してローカルの一時ビューを作成します。 この一時ビューの有効期間は、この DataFrameを作成した SparkSession に関連付けられています。

CrossJoin(DataFrame)

別の DataFrameとの明示的なデカルト結合。

Cube(Column[])

指定した列を使用して、現在の DataFrame の多次元キューブを作成します。

Cube(String, String[])

指定した列を使用して、現在の DataFrame の多次元キューブを作成します。

Describe(String[])

count、mean、stddev、min、max など、数値列と文字列列の基本統計を計算します。列が指定されていない場合、この関数はすべての数値列または文字列列の統計を計算します。

Distinct()

この DataFrameの一意の行のみを含む新しいデータセットを返します。 これは DropDuplicates() のエイリアスです。

Drop(Column)

列が削除された新しい DataFrame を返します。 これは、 DataFrame に同等の式を持つ列がない場合の no-op です。

Drop(String[])

列が削除された新しい DataFrame を返します。 これは、スキーマに列名が含まれていない場合の no-op です。

DropDuplicates()

このDataFrameの一意の行のみを含む新しいDataFrameを返します。 これは Distinct() のエイリアスです。

DropDuplicates(String, String[])

列のサブセットのみを考慮して、重複する行が削除された新しい DataFrame を返します。

DTypes()

すべての列名とそのデータ型をタプルの IEnumerable として返します。

Except(DataFrame)

このDataFrame内の行を含む新しいDataFrameを返しますが、別のDataFrameには含まれません。

ExceptAll(DataFrame)

このDataFrame内の行を含む新しいDataFrameを返しますが、重複を保持しながら別のDataFrameには含まれません。

Explain(Boolean)

デバッグ目的でプラン (論理および物理) をコンソールに出力します。

Explain(String)

指定された explain モードで指定された形式でプラン (論理および物理) を出力します。

Filter(Column)

指定された条件を使用して行をフィルター処理します。

Filter(String)

指定された SQL 式を使用して行をフィルター処理します。

First()

最初の行を返します。 Alis for Head().

GroupBy(Column[])

指定した列を使用して DataFrame をグループ化し、それらに対して集計を実行できるようにします。

GroupBy(String, String[])

指定した列を使用して DataFrame をグループ化します。

Head()

最初の行を返します。

Head(Int32)

最初の n 行を返します。

Hint(String, Object[])

現在の DataFrameに関するいくつかのヒントを指定します。

Intersect(DataFrame)

このDataFrameと別のDataFrameの両方にのみ行を含む新しいDataFrameを返します。

IntersectAll(DataFrame)

重複を保持しながら、このDataFrameと別のDataFrameの両方にのみ行を含む新しいDataFrameを返します。

IsEmpty()

この DataFrame が空の場合は true を返します。

IsLocal()

Collect() メソッドと Take() メソッドを Spark Executor なしでローカルで実行できる場合は true を返します。

IsStreaming()

この DataFrame に、受信時にデータを継続的に返す 1 つ以上のソースが含まれている場合は true を返します。

Join(DataFrame, Column, String)

指定された結合式を使用して、別の DataFrameと結合します。

Join(DataFrame, IEnumerable<String>, String)

指定された列を使用して、別の DataFrame と等結合します。 述語を持つクロス結合は、内部結合として指定されます。 クロス結合を明示的に実行する場合は、 crossJoin メソッドを使用します。

Join(DataFrame, String)

指定された列を使用する別の DataFrame との内部等結合。

Join(DataFrame)

別の DataFrameと結合します。

Limit(Int32)

最初のnumber行を取得して、新しいDataFrameを返します。

LocalCheckpoint(Boolean)

この DataFrameのローカルチェックポイントバージョンを返します。

Na()

不足しているデータを操作するための DataFrameNaFunctions を返します。

Observe(String, Column, Column[])

データセットで観察する (名前付き) メトリックを定義します。 このメソッドは、入力と同じ結果を返す 'observed' DataFrame を返します。次の保証があります。

  1. その時点でデータセットを通過しているすべてのデータに対して定義された集計 (メトリック) が計算されます。
  2. 完了ポイントに達するとすぐに、定義された集計列の値が報告されます。完了ポイントは、クエリの終了 (バッチ モード) またはストリーミング エポックの終了です。 集計の値には、前の完了ポイント以降に処理されたデータのみが反映されます。

現在、継続的な実行はサポートされていないことに注意してください。

OrderBy(Column[])

指定された式で並べ替えられた新しいデータセットを返します。

OrderBy(String, String[])

指定された式で並べ替えられた新しいデータセットを返します。

Persist()

この DataFrame は、既定のストレージ レベルのMEMORY_AND_DISKで保持します。

Persist(StorageLevel)

この DataFrame は、指定されたストレージ レベルで保持します。

PrintSchema()

スキーマをコンソールに優しいツリー形式で出力します。

PrintSchema(Int32)

指定されたレベルまでのスキーマを、優れたツリー形式でコンソールに出力します。

RandomSplit(Double[], Nullable<Int64>)

この DataFrame を指定された重みでランダムに分割します。

Repartition(Column[])

パーティションの数としてspark.sql.shuffle.partitionsを使用して、指定されたパーティション分割式によってパーティション分割された新しいDataFrameを返します。

Repartition(Int32, Column[])

指定されたパーティション分割式によってパーティション分割された新しい DataFrame を numPartitionsに返します。 結果の DataFrame はハッシュパーティション分割されます。

Repartition(Int32)

パーティションが正確にnumPartitionsされた新しいDataFrameを返します。

RepartitionByRange(Column[])

パーティションの数としてspark.sql.shuffle.partitionsを使用して、指定されたパーティション分割式によってパーティション分割された新しいDataFrameを返します。 結果のデータセットは、範囲がパーティション分割されます。

RepartitionByRange(Int32, Column[])

指定されたパーティション分割式によってパーティション分割された新しい DataFrame を numPartitionsに返します。 結果の DataFrame は、範囲がパーティション分割されます。

Rollup(Column[])

指定した列を使用して、現在の DataFrame の多次元ロールアップを作成します。

Rollup(String, String[])

指定した列を使用して、現在の DataFrame の多次元ロールアップを作成します。

Sample(Double, Boolean, Nullable<Int64>)

ユーザー指定のシードを使用して、(置換せずに) 行の一部をサンプリングして、新しい DataFrame を返します。

Schema()

この DataFrameに関連付けられているスキーマを返します。

Select(Column[])

列ベースの式のセットを選択します。

Select(String, String[])

列のセットを選択します。 これは Select() のバリアントで、列名を使用して既存の列のみを選択できます (つまり、式を作成することはできません)。

SelectExpr(String[])

SQL 式のセットを選択します。 これは、SQL 式を受け入れる Select() のバリアントです。

Show(Int32, Int32, Boolean)

DataFrameの行を表形式で表示します。

Sort(Column[])

指定した式で並べ替えられた新しい DataFrame を返します。

Sort(String, String[])

指定した列で並べ替えられた新しい DataFrame をすべて昇順で返します。

SortWithinPartitions(Column[])

各パーティションが指定された式で並べ替えられた新しい DataFrame を返します。

SortWithinPartitions(String, String[])

各パーティションが指定された式で並べ替えられた新しい DataFrame を返します。

Stat()

動作する統計関数のサポートに関する DataFrameStatFunctions を返します。

StorageLevel()

DataFrameの現在のStorageLevel()を取得します。

Summary(String[])

数値列と文字列列の指定された統計を計算します。

Tail(Int32)

DataFrame内の最後のn行を返します。

Take(Int32)

DataFrame内の最初のn行を返します。

ToDF()

この厳密に型指定されたデータのコレクションをジェネリック DataFrameに変換します。

ToDF(String[])

この厳密に型指定されたデータのコレクションを、列の名前が変更された汎用 DataFrame に変換します。

ToJSON()

JSON 文字列の DataFrame として DataFrame の内容を返します。

ToLocalIterator()

この DataFrame内のすべての行を含む反復子を返します。 反復子は、この DataFrameで最大のパーティションと同じ量のメモリを消費します。

ToLocalIterator(Boolean)

この DataFrame内のすべての行を含む反復子を返します。 反復子は、この DataFrameで最大のパーティションと同じ量のメモリを消費します。 プリフェッチでは、最大 2 つの最大パーティションのメモリを消費する可能性があります。

Transform(Func<DataFrame,DataFrame>)

カスタム変換を連結するための簡潔な構文。

Union(DataFrame)

このDataFrame内の行の和集合と別のDataFrameを含む新しいDataFrameを返します。

UnionByName(DataFrame)

このDataFrame内の行の和集合と別のDataFrameを含む新しいDataFrameを返し、名前で列を解決します。

Unpersist(Boolean)

データセットを非永続的としてマークし、そのデータセットのすべてのブロックをメモリとディスクから削除します。

Where(Column)

指定された条件を使用して行をフィルター処理します。 これは Filter() のエイリアスです。

Where(String)

指定された SQL 式を使用して行をフィルター処理します。 これは Filter() のエイリアスです。

WithColumn(String, Column)

列を追加するか、同じ名前の既存の列を置き換えることで、新しい DataFrame を返します。

WithColumnRenamed(String, String)

列の名前が変更された新しいデータセットを返します。 スキーマに existingNameが含まれていない場合、これは no-op です。

WithWatermark(String, String)

この DataFrame のイベント時間基準値を定義します。 ウォーターマークは、それ以上遅延データが到着しないと仮定する前の時点を追跡します。

Write()

非ストリーミング データセットのコンテンツを外部ストレージに保存するためのインターフェイス。

WriteStream()

ストリーミング データセットのコンテンツを外部ストレージに保存するためのインターフェイス。

WriteTo(String)

v2 ソース用の書き込み構成ビルダーを作成します。

適用対象