Microsoft.Spark 名前空間

クラス

名前 説明
Broadcast<T>

ブロードキャスト変数。 ブロードキャスト変数を使用すると、プログラマは読み取り専用の変数をタスクと共に配布するのではなく、各マシンにキャッシュしておきます。 たとえば、すべてのノードに大規模な入力データセットのコピーを効率的に提供するために使用できます。 また、Spark は、効率的なブロードキャスト アルゴリズムを使用してブロードキャスト変数を分散し、通信コストを削減しようとします。

DeprecatedAttribute

API が非推奨となる Spark バージョンを示すカスタム属性。

JvmException

エラーの Microsoft.Spark.Interop.Ipc.JvmBridge から返されたメッセージを格納します。

RemovedAttribute

API が削除される Spark バージョンを示すカスタム属性。

SinceAttribute

API が導入される Spark バージョンを示すカスタム属性。

SparkConf

Spark アプリケーションの構成。 さまざまな Spark パラメーターをキーと値のペアとして設定するために使用されます。

SparkContext

Spark 機能の主要なエントリ ポイント。 SparkContext は Spark クラスターへの接続を表し、そのクラスターで RDD、アキュムレータ、ブロードキャスト変数を作成するために使用できます。

JVM ごとにアクティブにする必要がある SparkContext は 1 つだけです。 新しいSparkContextを作成する前に、アクティブなをstop()する必要があります。

SparkFiles

AddFile(String, Boolean)によって追加されたファイルへのパスを解決します。

VersionAttribute

Spark バージョンを含むカスタム属性の基本クラス。