从 HDFS 读取属性文件

Question

我正在尝试读取HDFS上的Java属性文件，如下所示：

try {
    properties.load(new FileInputStream("hdfs://user/hdfs/my_props.properties"));
} catch (IOException e) {
    throw new RuntimeException("Properties file not found.");
}

但它似乎不起作用，我收到"找不到属性文件"异常。如果我替换本地文件的路径，它可以正常工作，并且我能够读取该文件。

是否可以使用 FileInputStream 读取 HDFS 文件？

谢谢！

Answer 1

我希望你需要使用hadoopjars，也需要文件系统从HDFS读取。这样的东西应该放在你的代码之前。

Path pt=new Path("hdfs://user/hdfs/my_props.properties");
FileSystem fs = FileSystem.get(new Configuration());

请参阅：通用文件系统的文件输入流

Answer 2

 val fs = FileSystem.get(new Configuration)
 val hdfsPath = new Path("hdfs://user/hdfs/my_props.properties")
 val fis = new InputStreamReader(fs.open(hdfsPath))
 prop.load(fis) // This will be your properties object