我正在尝试用java制作一个多线程下载程序。它可以工作,但我下载的文件总是缺少一些字节。
我已经搜索并找到了许多多线程网络爬虫的例子,但没有简单的,所以有人能告诉我我的方法是否可行吗?
我不知道问题是否出在字节排序上。
我尝试过BlockingQueue,但它不起作用
URL url = new URL(mURL);
final HttpURLConnection conn;
conn = (HttpURLConnection) url.openConnection();
conn.setConnectTimeout(10000);
conn.connect();
final BufferedInputStream in = new BufferedInputStream(conn.getInputStream());
final File f = new File("tr.exe");
if (f.exists()) {
f.delete();
}
// open the output file and seek to the start location
Thread t1 = new Thread() {
public void run() {
try {
RandomAccessFile raf = new RandomAccessFile(f, "rw");
raf.seek(0);
int numRead;
int mStartByte = 0;
byte data[] = new byte[conn.getContentLength() / 2];
while (((numRead = in.read(data, 0, 1024)) != -1) && (mStartByte < conn.getContentLength() / 2)) {
// write to buffer
raf.write(data, 0, numRead);
// increase the startByte for resume later
mStartByte += numRead;
// increase the downloaded size
}
raf.close();
} catch (FileNotFoundException ex) {
Logger.getLogger(MyDownloader.class.getName()).log(Level.SEVERE, null, ex);
} catch (IOException ex) {
Logger.getLogger(MyDownloader.class.getName()).log(Level.SEVERE, null, ex);
}
}
};
Thread t2 = new Thread() {
public void run() {
try {
RandomAccessFile raf = new RandomAccessFile(f, "rw");
raf.seek(conn.getContentLengthLong() / 2);
int numRead;
int mStartByte = conn.getContentLength() / 2;
byte data[] = new byte[conn.getContentLength() / 2];
while (((numRead = in.read(data, 0, 1024)) != -1) && (mStartByte < conn.getContentLength())) {
// write to buffer
raf.write(data, 0, numRead);
// increase the startByte for resume later
mStartByte += numRead;
// increase the downloaded size
}
raf.close();
} catch (FileNotFoundException ex) {
Logger.getLogger(MyDownloader.class.getName()).log(Level.SEVERE, null, ex);
} catch (IOException ex) {
Logger.getLogger(MyDownloader.class.getName()).log(Level.SEVERE, null, ex);
}
}
};
t1.start();
t2.start();
以下是我注意到的前几个问题。。。
-
首先,我会将您的下载/编写代码放在一个单独的类中,该类实现Runnable,然后使用ExecutorService执行它。
-
byte[] data
的大小应该与您正在读取的硬编码为1024的块大小相同。 -
int mStartByte = conn.getContentLength() / 2
如果长度是奇数怎么办? -
由于有两个线程从同一个流中读取,所以不能保证第一个线程读取前半部分,第二个线程读取后半部分。我怀疑它不适用于超过2048字节的文件。在每次读取迭代中,你需要知道你从流中的哪里开始,这样你才能找到正确的位置。
我猜发生的事情是,你同时写入同一个文件,然后是的,顺序发生了变化,u甚至可能会在这个过程中丢失一些字节,现在你应该做的是,将文件的第一个线程的输出写入,例如"ThreadOutput",第二个线程写入"Thread2Output",最后将两个文件组装在一个文件中,希望它对u有效,祝你好运,对不起,我无法提供代码,因为我从未创建过下载程序=D