使用Java中的Apache Spark中的数据集n次复制一行

Question

我正在尝试从数据集n时复制一行，并从中创建一个新数据集。但是，在复制时，我需要每个复制的列的值才能更改，因为它最终将作为主要键，终于存储。

以下是SO帖子的Scala代码：复制Spark Row n-Times

import org.apache.spark.sql.functions._
val result = singleRowDF
  .withColumn("dummy", explode(array((1 until 100).map(lit): _*)))
  .selectExpr(singleRowDF.columns: _*)

如何从Java中的一个值数组中创建列并将其传递给爆炸函数？建议很有帮助。

谢谢

Answer 1

这是从数据集n时复制单行的Java程序。

import static org.apache.spark.sql.functions.col;
import static org.apache.spark.sql.functions.explode;
import static org.apache.spark.sql.functions.lit;
import java.util.ArrayList;
import java.util.List;
import java.util.stream.IntStream;
import org.apache.spark.sql.Dataset;
import org.apache.spark.sql.Encoders;
import org.apache.spark.sql.Row;
import org.apache.spark.sql.SparkSession;
public class SparkSample{
    public static void main(String[] args) {
        SparkSession spark = SparkSession
                .builder()
                .appName("SparkSample")
                .master("local[*]")
                .getOrCreate();
        //Create Dataset
        List<Tuple2<String,Double>> inputList = new ArrayList<Tuple2<String,Double>>();
        inputList.add(new Tuple2<String,Double>("A",1.0));
        Dataset<Row> df = spark.createDataset(inputList, Encoders.tuple(Encoders.STRING(), Encoders.DOUBLE())).toDF();
        df.show(false);
        //Java 8 style of creating Array. You can create by using for loop as well
        int[] array = IntStream.range(0, 5).toArray();
        //With Dummy Column
        Dataset<Row> df1 = df.withColumn("dummy", explode(lit(array)));
        df1.show(false);
        //Drop Dummy Column
        Dataset<Row> df2 = df1.drop(col("dummy"));
        df2.show(false);
    }
}

以下是此程序的输出。

+---+---+
|_1 |_2 |
+---+---+
|A  |1.0|
+---+---+
+---+---+-----+
|_1 |_2 |dummy|
+---+---+-----+
|A  |1.0|0    |
|A  |1.0|1    |
|A  |1.0|2    |
|A  |1.0|3    |
|A  |1.0|4    |
+---+---+-----+
+---+---+
|_1 |_2 |
+---+---+
|A  |1.0|
|A  |1.0|
|A  |1.0|
|A  |1.0|
|A  |1.0|
+---+---+