rstudio like repl for spark-shell



我正在寻找一种交互式的方式来使用类似于rstudio的spark-shell。 我的使用很简单 - 我想在编辑器中编写代码并在 spark shell 的终端中逐行执行。 我尝试过Jupyter笔记本和Zeppelin,但它们似乎还没有像Python后端那样准备好。 目前我每次都剪切和粘贴,但过了一会儿就变得很累了。 谷歌搜索没有提出任何我认为有用的东西。

您可以使用 Jupyter notebook,但您需要将相应的内核安装和配置为 Jupyter。
Jupyter
的所有可用内核

正如你说的 spark-shell,我假设你正在编写 scala 代码。
可用的 scala 内核有:sparkmagic 和 Jupyter-scala

截至目前,Jupyter 将允许您将脚本下载为扩展名为
.py的文件 更改其扩展名和编译将产生开销(即使它可以在一定程度上减少您的工作)

有两个选项:

  1. 在Intellij IDEA中使用Scala工作表。它可以在您键入时同时显示结果。无需每次都复制粘贴代码。请参阅此问题进行设置:如何设置 Intellij 14 Scala 工作表以运行 Spark
  2. 通过调整 Atom 文本编辑器来构建您自己的环境。 atom 中有各种插件可以包含终端和代码编辑器。安装其中一个并在终端中打开火花 REPL。如果您愿意,可以添加一个快捷方式,以从编辑器在 REPL 中运行所选代码(如 Rstudio 中的 ctrl+enter) 参考:https://atom.io/packages/terminal-plus

最新更新