Pyspark窗口功能理解

Question

我一直在使用pyspark在一个相当大的RDD中运行大量计算，每个块看起来像这样：

ID  CHK  C1 Flag1   V1  V2  C2  Flag2   V3  V4  
341 10  100 TRUE    10  10  150 FALSE   10  14
341 9   100 TRUE    10  10  150 FALSE   10  14
341 8   100 TRUE    14  14  150 FALSE   10  14
341 7   100 TRUE    14  14  150 FALSE   10  14
341 6   100 TRUE    14  14  150 FALSE   10  14
341 5   100 TRUE    14  14  150 FALSE   10  14
341 4   100 TRUE    14  14  150 FALSE   12  14
341 3   100 TRUE    14  14  150 FALSE   14  14
341 2   100 TRUE    14  14  150 FALSE   14  14
341 1   100 TRUE    14  14  150 FALSE   14  14
341 0   100 TRUE    14  14  150 FALSE   14  14

我有很多ID的出现（这取决于C1值，例如100到130，依此类推，依此类推，对于每个整数，我都有一组11行，如上所述），我有很多IDS。我需要做的是在每个行的组中应用一个公式，并添加两个将计算的列：

D1 = ((row.V1 - prev_row.V1)/2)/((row.V2 + prev_row.V2)/2)
D2 = ((row.V3 - prev_row.V3)/2)/((row.V4 + prev_row.V4)/2)

我所做的（正如我在这篇有用的文章中发现的：https：//arundhaj.com/blog/calculate-difference-with-previous-row-row-in-pyspark.html）是定义一个窗口：

my_window = Window.partitionBy().orderBy(desc("CHK"))

，对于每个中间计算，我创建了一个" temp"列：

df = df.withColumn("prev_V1", lag(df.V1).over(my_window))
df = df.withColumn("prev_V21", lag(df.TA1).over(my_window))
df = df.withColumn("prev_V3", lag(df.SSQ2).over(my_window))
df = df.withColumn("prev_V4", lag(df.TA2).over(my_window))
df = df.withColumn("Sub_V1", F.when(F.isnull(df.V1 - df.prev_V1), 0).otherwise((df.V1 - df.prev_V1)/2))
df = df.withColumn("Sub_V2", (df.V2 + df.prev_V2)/2)
df = df.withColumn("Sub_V3", F.when(F.isnull(df.V3 - df.prev_V3), 0).otherwise((df.V3 - df.prev_V3)/2))
df = df.withColumn("Sub_V4", (df.V4 + df.prev_V4)/2)
df = df.withColumn("D1", F.when(F.isnull(df.Sub_V1 / df.Sub_V2), 0).otherwise(df.Sub_V1 / df.Sub_V2))
df = df.withColumn("D2", F.when(F.isnull(df.Sub_V3 / df.Sub_V4), 0).otherwise(df.Sub_V3 / df.Sub_V4))

最后我摆脱了临时列：

final_df = df.select(*columns_needed)

它花了很长时间，我一直得到：

WARN WindowExec: No Partition Defined for Window operation! Moving all data to a single partition, this can cause serious performance degradation.

我知道我没有正确地执行此操作，因为上面的代码块在几个循环中以进行所有ID计算，即使用：

进行循环。

unique_IDs = list(df1.toPandas()['ID'].unique())

但是在Pyspark窗口函数上进行了更多查看之后，我相信通过正确设置窗口partitionby（），我可以更轻松地获得相同的结果。

我看了避免在火花窗口功能中单个分区模式的性能影响，但我仍然不确定如何正确设置窗口分区以使此工作。

有人可以为我提供一些帮助或了解我如何解决这个问题？

谢谢

Answer 1

我假设必须将公式应用于每组ID（这就是我选择在'id'上进行分区的原因）。

您可以避免使用类似的"临时"列：

# used to define the lag of a specific column
w_lag=Window.partitionBy("id","C1").orderBy(desc('chk'))

df = df.withColumn('D1',((df.V1-F.lag(df.V1).over(w_lag))/2)
                       /((df.V2+F.lag(df.V2).over(w_lag))/2))
df = df.withColumn('D2',((df.V3-F.lag(df.V3).over(w_lag))/2)
                       /((df.V4+F.lag(df.V4).over(w_lag))/2))

结果是：

+---+---+---+-----+---+---+---+-----+---+---+-------------------+-------------------+
| id|chk| C1|Flag1| V1| V2| C2|Flag2| V3| V4|                 D1|                 D2|
+---+---+---+-----+---+---+---+-----+---+---+-------------------+-------------------+
|341| 10|100| true| 10| 10|150| true| 10| 14|               null|               null|
|341|  9|100| true| 10| 10|150| true| 10| 14|                0.0|                0.0|
|341|  8|100| true| 14| 14|150| true| 10| 14|0.16666666666666666|                0.0|
|341|  7|100| true| 14| 14|150| true| 10| 14|                0.0|                0.0|
|341|  6|100| true| 14| 14|150| true| 10| 14|                0.0|                0.0|
|341|  5|100| true| 14| 14|150| true| 10| 14|                0.0|                0.0|
|341|  4|100| true| 14| 14|150| true| 12| 14|                0.0|0.07142857142857142|
|341|  3|100| true| 14| 14|150| true| 14| 14|                0.0|0.07142857142857142|
|341|  2|100| true| 14| 14|150| true| 14| 14|                0.0|                0.0|
|341|  1|100| true| 14| 14|150| true| 14| 14|                0.0|                0.0|
|341|  0|100| true| 14| 14|150| true| 14| 14|                0.0|                0.0|
+---+---+---+-----+---+---+---+-----+---+---+-------------------+-------------------+