Spark Kryo序列化寄存器数据类型[]



强迫火花使用Kryo序列化以下选项可以设置spark.kryo.registrationRequired

如何注册org.apache.spark.sql.types.DataType[]

Class is not registered: org.apache.spark.sql.types.DataType[]

这是一个例外。但是尝试像classOf[org.apache.spark.sql.types.DataType[]]这样的注册不会编译

我与java和scala数组符号混淆。

classOf[Array[org.apache.spark.sql.types.DataType]] 

是正确的注册。

尽管如此,这是一个火花内部类,应该已经由Spark进行注册。

最新更新