在线/流式MD5算法

是否可以使用 FileReader API 和 onprogress 事件访问 HTML5 中传入的数据？
如果是这样，是否有 MD5 或其他快速哈希算法的"在线"版本，以便我可以在文件完全读取之前开始计算哈希？

我想在客户端计算哈希值，并在发送整个文件以在启动文件上传之前仅将哈希发送到服务器以检查重复项。

我目前不关心对旧浏览器的支持。

编辑：我认识到哈希冲突并不能保证重复文件，唯一确定的方法是逐字节检查，这意味着无论如何我都必须上传文件。概率足够低，我愿意冒这个险;最坏的情况是我提示用户并说"此文件似乎已在服务器上;您确定要上传它吗？

是否有 MD5 或其他快速哈希算法的"在线"版本，以便我可以在文件完全读取之前开始计算哈希？

是的，如果你想使用SHA，你可以使用sjcl。 sjcl 对 MD5 没有本机支持，所以你必须自己编写（尽管我确信其他人已经这样做了）。CryptoJS具有本机MD5支持，但速度明显较慢。

我认识到哈希冲突并不能保证重复文件 [...]概率足够低，我愿意冒这个险;

这种可能性足够低，以至于流星撞击地球并结束人类生命（从而完全消除了散列的需要）的可能性比自然发生碰撞的可能性更大。当然，除非用户故意制造碰撞，因为MD5的抗碰撞性被破坏了。

这是我相信您正在尝试完成的任务的现场演示，减去"访问数据"部分。我不确定这是否可能。我很久以前写过这个，它使用 CryptoJS，所以性能不是那么好，但它可以完成工作。重要的块是：

function handleFileSelect(evt) 
{
    evt.stopPropagation();
    evt.preventDefault();
    var files = evt.target.files || evt.dataTransfer.files; // FileList object.
    for (var i=0, file; file = files[i]; ++i)
    {
        // this creates the FileReader and reads stuff as text
        var fr = new FileReader();
        fr.onload = (function(theFile) {
            return function (e) {
                var hashes = parsePseudoBuffer(e.target.result);
                document.getElementById('output').innerHTML += '<br />' + theFile.name + '<br />' 
                + 'MD5: ' + hashes.md5 + '<br />' + 'SHA1: ' + hashes.sha1 + '<br />' ;
            };
        }) (file);
        fr.readAsArrayBuffer(file); // ArrayBuffer
    }
}
function parsePseudoBuffer(result)
{
    var buffs = new Uint8Array(result); // buffer thingie       
    var md5 = CryptoJS.algo.MD5.create();
    var sha1 = CryptoJS.algo.SHA1.create();     
    var bufsize = 8 * 1024; // 8K buffer
    for (var bstart=0, bend=bufsize; bstart < buffs.length; bstart+=bufsize, bend+= bufsize)
    {
        var data = CryptoJS.lib.WordArray.create(buffs.subarray(bstart, bend)); 
        md5.update(data);
        sha1.update(data);          
    }
    md5 = md5.finalize(); 
    sha1 = sha1.finalize();         
    return {'md5': md5, 'sha1': sha1} ;
}

我做了一些实验。看起来我们可以利用读取器对象上的不完整result来获取在 onprogress 事件中读取的最后一个块。只有当我们使用reader.readAsArrayBuffer（仅限 Chrome？）或 reader.readAsBinaryString .字符串的问题在于，如果你想拿走它的一大块，你必须对它进行切片，从而复制（非常慢）。

ArrayBuffers有一个.subarray方法，该方法可以在缓冲区中创建一个视图，而无需复制任何数据。这正是我们想要的。但是，它似乎在基类上不可用;并且从文档中不清楚当我们构造一个派生类时会发生什么（例如 Uint8Array ）使用此缓冲区，但考虑到原始缓冲区可以通过只读属性访问，我假设它没有复制。

sjcl 和 CryptoJS 都方便地.update方法，这些方法将采用此 ArrayBufferView，以便您可以即时更新哈希。因此，我提出了以下解决方案（使用jQuery，underscore和sjcl）：

$(document).on('drop', function(dropEvent) {
    dropEvent.preventDefault();
    _.each(dropEvent.originalEvent.dataTransfer.files, function(file) {
        var reader = new FileReader();
        var pos = 0;
        var hash = new sjcl.hash.sha256();
        reader.onprogress = function(progress) {
            var chunk = new Uint8Array(reader.result, pos, progress.loaded - pos);
            pos = progress.loaded;
            hash.update(chunk);
            if(progress.lengthComputable) {
                console.log((progress.loaded/progress.total*100).toFixed(1)+'%');
            }
        };
        reader.onload = function() {
            var chunk = new Uint8Array(reader.result, pos);
            if(chunk.length > 0) hash.update(chunk);
            console.log(sjcl.codec.hex.fromBits(hash.finalize()));
        };
        reader.readAsArrayBuffer(file);
    });
});

请注意，此解决方案目前仅适用于Chrome，并且速度相当慢。我认为 sjcl 不仅仅是对文件进行哈希处理，而是对其进行了键强化，这真的不是我想要的。稍后会调查更多。

相关内容

最新更新

热门标签：