因此,我在独立模式下使用spark 3.1.3,有16个工作人员。我已经完成了spark文档中描述的所有必要步骤,但本机库仍然无法工作。我在pom文件中包含了以下依赖项:
<dependency>
<groupId>com.github.fommil.netlib</groupId>
<artifactId>all</artifactId>
<version>1.1.2</version>
<type>pom</type>
</dependency>
我已经完成了安装:
sudo apt-get install libgfortran5
sudo apt-get install libatlas3-base libopenblas-base
sudo update-alternatives --config libblas.so
sudo update-alternatives --config libblas.so.3
sudo update-alternatives --config liblapack.so
sudo update-alternatives --config liblapack.so.3
尽管我得到了";更新备选方案:错误:没有备选方案"对于所有上述备选方案。
我仍然收到来自Spark:的警告
WARN BLAS: Failed to load implementation from: com.github.fommil.netlib.NativeSystemBLAS
WARN BLAS: Failed to load implementation from: com.github.fommil.netlib.NativeRefBLAS
如果我尝试:System.out.println(BLAS.getInstance((.getClass((.geName(((;我得到:
com.github.fommil.netlib.F2jBLAS
正如你所知,我使用的是libgfortran5,因为libgfortran不能直接在Ubuntu 20.04中使用。这是原因吗?libgfortran5不会覆盖以前的版本吗?
从这里安装gcc-6-base和libgfortran3解决了问题https://gist.github.com/sakethramanujam/faf5b677b6505437dbdd82170ac55322所有工人和师傅。