Spark 将 RDD[(Int， Array[Double])] 保存到文本文件得到奇怪的结果

Question

我正在尝试将MatrixFactorizationModel的用户功能保存到textFile中，根据文档，它是类型为[（Int，Array[Double]）]的RDD。所以我只是打电话

model.userFeature.saveAsTextFile("feature")

但是，我得到的结果是这样的：

(1,[D@4b7707f1)
(5,[D@513e9aca)
(9,[D@7d09bcab)
(13,[D@31058458)
(17,[D@2a5df2a7)
(21,[D@5372efd7)
(25,[D@59d1c59a)
(29,[D@53ee5e25)
(33,[D@498f5a34)
(37,[D@4f9967eb)
(41,[D@5560afb)
(45,[D@2dc7f659)
(49,[D@b46fcc)
(53,[D@38098dd1)
(57,[D@77090fb5)
(61,[D@64769e18)

我期待的是这样的：

(1, [1.1, 2.3, 0.4, ...])
(2, [0.1, 0.3, 0.4, ...])
...

那么怎么了呢？

Answer 1

saveAsTextFile的行为是使用 toString 方法。所以，对于一个Array来说，这只是hashcode。如果您坚持使用saveAsTextFile，您有两种选择：

.mapValues(x=>/*TURN ARRAY DATA INTO A STRING*/).saveAsTextFile...

或者，您可以使用map将数据包装在具有自定义toString的自定义对象中，或者在这种情况下，List及其toString可能会起作用

.mapValues(_.toList).saveAsTextFile