从现有数据帧创建 Spark 数据帧，以便基于现有数据帧行的新数据帧列

Question

我有现有的dataFrame为：

Timestamp,         ID,   Value
29/08/2017 4:51:23, ID-1, 1.1
29/08/2017 4:52:14, ID-2, 2.1
29/08/2017 4:52:14, ID-3, 3.1
29/08/2017 4:55:23, ID-1, 1.2
29/08/2017 4:55:23, ID-3, 3.2
29/08/2017 4:57:42, ID-2, 2.2

我想从现有数据框架中创建一个数据框，以便" ID"将成为列名，"值"将成为相应列的数据，为：

Timestamp,            ID-1,    ID-2,   ID-3
29/08/2017 4:51:23,    1.1,     null,   null
29/08/2017 4:52:14,    null,    2.1,    3.1
29/08/2017 4:55:23,    1.2,     null,   3.2
29/08/2017 4:57:42,    null,    2.2,    null

我无法在Scala中找出可行的解决方案。帮助您表示赞赏。预先感谢。

Answer 1

您可以将groupBy()与piviot()一起使用。使用您的示例数据框：

val spark = SparkSession.builder.getOrCreate()
import spark.implicits._
val df = ...
df.show()
+------------------+----+-----+
|         Timestamp|  ID|Value|
+------------------+----+-----+
|29/08/2017 4:51:23|ID-1|  1.1|
|29/08/2017 4:52:14|ID-2|  2.1|
|29/08/2017 4:52:14|ID-3|  3.1|
|29/08/2017 4:55:23|ID-1|  1.2|
|29/08/2017 4:55:23|ID-3|  3.2|
|29/08/2017 4:57:42|ID-2|  2.2|
+------------------+----+-----+
val newDF = df.groupBy("Timestamp")
  .pivot("ID")
  .agg(sum($"Value"))
newDF.show()
+------------------+----+----+----+
|         Timestamp|ID-1|ID-2|ID-3|
+------------------+----+----+----+
|29/08/2017 4:57:42|null| 2.2|null|
|29/08/2017 4:55:23| 1.2|null| 3.2|
|29/08/2017 4:51:23| 1.1|null|null|
|29/08/2017 4:52:14|null| 2.1| 3.1|
+------------------+----+----+----+

如果两个或更多行的时间戳和ID相同，则将添加这些值。如果您想要另一种行为，只需更改agg()方法即可。例如。平均为agg(avg($"Value"))。

希望它有帮助！