强迫火花使用Kryo序列化以下选项可以设置spark.kryo.registrationRequired
。
如何注册org.apache.spark.sql.types.DataType[]
?
Class is not registered: org.apache.spark.sql.types.DataType[]
这是一个例外。但是尝试像classOf[org.apache.spark.sql.types.DataType[]]
这样的注册不会编译
我与java和scala数组符号混淆。
classOf[Array[org.apache.spark.sql.types.DataType]]
是正确的注册。
尽管如此,这是一个火花内部类,应该已经由Spark进行注册。