在 Java 中有效地将文件从 URL 读取到 byte[] 中

Question

我正在尝试找到一种更有效的方法来从远程URL读取文件并将其保存到字节数组中。这是我目前拥有的：

private byte[] fetchRemoteFile(String location) throws Exception {
  URL url = new URL(location);
  InputStream is = null;
  byte[] bytes = null;
  try {
    is = url.openStream ();
    bytes = IOUtils.toByteArray(is);
  } catch (IOException e) {
    //handle errors
  }
  finally {
    if (is != null) is.close();
  }
  return bytes;
}

如您所见，我目前将 URL 传递到该方法中，它使用 InputStream 对象来读取文件的字节。此方法使用 Apache Commons IOUtils。但是，此方法调用往往需要相对较长的时间才能运行。当一个接一个地检索数百、数千或数十万个文件时，它会变得非常慢。有没有办法改进这种方法，使其更有效地运行？我已经考虑过多线程，但我想将其保存为最后的手段。

Answer 1

你这样做的方式似乎完全没问题。

但如果你说：

"但是，此方法调用往往需要相对较长的时间才能 跑"

您可能会遇到以下问题：

• 网络、连接问题

• 您确定在单独的线程中下载每个文件吗？

如果您为此使用多线程，请确保VM args -XmsYYYYM和-XmxYYYYM配置良好，因为否则您可能会遇到问题，即您的处理器未使用所有内核。我前段时间遇到过这个问题。