目前,我在Spark 2.1中遇到了一些无形的问题,其中仍在使用过时的无形版本。我的依赖项之一(Pureconfig当前版本的0.8.0)拉动了一个较新版本的无形版本。
应该能够使用:
assemblyShadeRules in assembly := Seq(
ShadeRule.rename("shapeless.**" -> "new_shapeless.@1").inAll
)
解决method not found
问题 - 但这无济于事。
也
assemblyShadeRules in assembly := Seq(
ShadeRule.rename("shapeless.**" -> "shadeshapless.@1")
.inLibrary("com.chuusai" % "shapeless_2.11" % "2.3.2")
.inLibrary("com.github.pureconfig" %% "pureconfig" % "0.8.0")
.inProject
)
来自Spark不使用Pureconfig(我认为应该不应该比inAll
选项更好),但也会失败(由于现在正在破坏库(Pureconfig),但失败了(Pureconfig)。
有任何解决无形问题的建议吗?
编辑
当前,阴影配置看起来像:
assemblyShadeRules in assembly := Seq(
ShadeRule.rename("shapeless.**" -> "shadeshapless.@1")
.inLibrary("com.chuusai" % "shapeless_2.11" % "2.3.2")
.inLibrary("com.github.pureconfig" % "pureconfig_2.11" % pureconfigVersion)
.inLibrary("com.github.pureconfig" % "pureconfig-macros_2.11" % pureconfigVersion)
.inProject
)
不是真正的答案,但是从Spark 2.2开始,它可以很好地工作,因为Sparks依赖性已升级。