Apache Spark-OpenBlas和Lapack在Ubuntu 20.04中不起作用



因此,我在独立模式下使用spark 3.1.3,有16个工作人员。我已经完成了spark文档中描述的所有必要步骤,但本机库仍然无法工作。我在pom文件中包含了以下依赖项:

<dependency>
<groupId>com.github.fommil.netlib</groupId>
<artifactId>all</artifactId>
<version>1.1.2</version>
<type>pom</type>
</dependency>

我已经完成了安装:

sudo apt-get install libgfortran5
sudo apt-get install libatlas3-base libopenblas-base
sudo update-alternatives --config libblas.so
sudo update-alternatives --config libblas.so.3
sudo update-alternatives --config liblapack.so
sudo update-alternatives --config liblapack.so.3

尽管我得到了";更新备选方案:错误:没有备选方案"对于所有上述备选方案。

我仍然收到来自Spark:的警告

WARN BLAS: Failed to load implementation from: com.github.fommil.netlib.NativeSystemBLAS
WARN BLAS: Failed to load implementation from: com.github.fommil.netlib.NativeRefBLAS

如果我尝试:System.out.println(BLAS.getInstance((.getClass((.geName(((;我得到:

com.github.fommil.netlib.F2jBLAS

正如你所知,我使用的是libgfortran5,因为libgfortran不能直接在Ubuntu 20.04中使用。这是原因吗?libgfortran5不会覆盖以前的版本吗?

从这里安装gcc-6-base和libgfortran3解决了问题https://gist.github.com/sakethramanujam/faf5b677b6505437dbdd82170ac55322所有工人和师傅。

最新更新