theta_intersection

Datasketches 交差オブジェクトを使用して、Datasketches シータ スケッチ オブジェクトの 2 つのバイナリ表現の積集合を返します。

構文

from pyspark.sql import functions as sf

sf.theta_intersection(col1, col2)

パラメーター

パラメーター	タイプ	Description
col1	pyspark.sql.Column または str	最初の Theta スケッチ。
col2	pyspark.sql.Column または str	2 番目の Theta スケッチ。

返品ポリシー

pyspark.sql.Column: 交差するΘスケッチのバイナリ表現。

例示

例 1: 2 つの Theta スケッチの交差を取得する

from pyspark.sql import functions as sf
df = spark.createDataFrame([(1,1),(2,2),(3,2),(3,3)], "struct<v1:int,v2:int>")
df = df.agg(
    sf.theta_sketch_agg("v1").alias("sketch1"),
    sf.theta_sketch_agg("v2").alias("sketch2")
)
df.select(sf.theta_sketch_estimate(sf.theta_intersection(df.sketch1, "sketch2"))).show()

+-----------------------------------------------------------+
|theta_sketch_estimate(theta_intersection(sketch1, sketch2))|
+-----------------------------------------------------------+
|                                                          3|
+-----------------------------------------------------------+