Python 版本的 WordCount 在 Flink 上失败了



在 CentOS (CentOS 8.0.1905 (64bit(( 上,我尝试在 Flink(1.9( 上运行 Python(3.6.8( 版本的 WordCount 程序,如下所述。我得到如下错误。同样的环境适用于Java版本的WordCount程序。我在这里缺少什么?任何帮助将不胜感激。 错误

$ ./bin/flink run -py examples/python/table/batch/word_count.py
Starting execution of program
org.apache.flink.client.program.OptimizerPlanEnvironment$ProgramAbortException
at org.apache.flink.client.python.PythonDriver.main(PythonDriver.java:83)
at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)
at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:62)
at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43)
at java.lang.reflect.Method.invoke(Method.java:498)
at org.apache.flink.client.program.PackagedProgram.callMainMethod(PackagedProgram.java:576)
at org.apache.flink.client.program.PackagedProgram.invokeInteractiveModeForExecution(PackagedProgram.java:438)
at org.apache.flink.client.program.ClusterClient.run(ClusterClient.java:274)
at org.apache.flink.client.cli.CliFrontend.executeProgram(CliFrontend.java:746)
at org.apache.flink.client.cli.CliFrontend.runProgram(CliFrontend.java:273)
at org.apache.flink.client.cli.CliFrontend.run(CliFrontend.java:205)
at org.apache.flink.client.cli.CliFrontend.parseParameters(CliFrontend.java:1010)
at org.apache.flink.client.cli.CliFrontend.lambda$main$10(CliFrontend.java:1083)
at org.apache.flink.runtime.security.NoOpSecurityContext.runSecured(NoOpSecurityContext.java:30)
at org.apache.flink.client.cli.CliFrontend.main(CliFrontend.java:1083)

我认为您提供的信息没有显示根本原因。一般来说,我们在 Flink 1.9 中运行示例有两种方式,一种是前面给出的答案 1,就是从源码安装 PyFlink,另一种是下载二进制包。如下:

  1. 检查蟒蛇 蟒蛇 --版本 最好在 Flink 1.9 中使用 Python 2.7.6+。

  2. 下载 卷曲 -O http://mirrors.gigenet.com/apache/flink/flink-1.9.1/flink-1.9.1-bin-scala_2.11.tgz tar -zxvf flink-1.9.1-bin-scala_2.11.tgz

  3. 配置(可选( vi flink-1.9.1/conf/flink-conf.yaml -> rest.port: 4000

  4. 启动群集 光盘 flink-1.9.1;垃圾箱/启动 cluster.sh

  5. 运行字数统计示例 ./bin/flink run -py examples/python/table/batch/word_count.py

更多细节可以在这里找到: https://enjoyment.cool/2020/01/19/Three-Min-Series-Run-the-Example-of-WordCount-in-PyFlink-1-9/#more

希望对您有所帮助!

感谢孙金成的鼓励和支持

我将$FLINK_HOME/opt/python/__MACOSX移到了上面的一个级别。程序运行时没有任何错误。由于我在 Linux 上运行,所以我不需要__MACOSX。我会简单地删除它

在运行测试之前,您应该使用 pip 构建源代码并安装 PyFlink,详细信息可以在这里找到:https://ci.apache.org/projects/flink/flink-docs-release-1.9/flinkDev/building.html#build-pyflink。

相关内容

  • 没有找到相关文章

最新更新