火花中无形状的阴影无法正常工作 - 仍然找不到方法



目前,我在Spark 2.1中遇到了一些无形的问题,其中仍在使用过时的无形版本。我的依赖项之一(Pureconfig当前版本的0.8.0)拉动了一个较新版本的无形版本。

应该能够使用:

assemblyShadeRules in assembly := Seq(
  ShadeRule.rename("shapeless.**" -> "new_shapeless.@1").inAll
)

解决method not found问题 - 但这无济于事。

assemblyShadeRules in assembly := Seq(
  ShadeRule.rename("shapeless.**" -> "shadeshapless.@1")
    .inLibrary("com.chuusai" % "shapeless_2.11" % "2.3.2")
    .inLibrary("com.github.pureconfig" %% "pureconfig" % "0.8.0")
    .inProject
)

来自Spark不使用Pureconfig(我认为应该不应该比inAll选项更好),但也会失败(由于现在正在破坏库(Pureconfig),但失败了(Pureconfig)。

有任何解决无形问题的建议吗?

编辑

当前,阴影配置看起来像:

assemblyShadeRules in assembly := Seq(
  ShadeRule.rename("shapeless.**" -> "shadeshapless.@1")
    .inLibrary("com.chuusai" % "shapeless_2.11" % "2.3.2")
    .inLibrary("com.github.pureconfig" % "pureconfig_2.11" % pureconfigVersion)
    .inLibrary("com.github.pureconfig" % "pureconfig-macros_2.11" % pureconfigVersion)
    .inProject
)

不是真正的答案,但是从Spark 2.2开始,它可以很好地工作,因为Sparks依赖性已升级。

相关内容

  • 没有找到相关文章

最新更新