纠删码,资源使用量少



嘿,我对很多擦除编码概念都很陌生。我大多只读过里德-所罗门,但它不符合我的需求。

我需要找到一种可以在大数据上创建奇偶校验分片的技术,而无需大量系统资源使用。

例如:

我想存储一个 32gb 的视频,切成八个 4gb 的分片。我想为此创建 3 个奇偶校验分片。我最多不能超过几百 mb 的内存,我希望以增量方式创建整个奇偶校验分片,以便我可以将它们写入另一个文件系统,而无需将整个东西存储在内存/本地磁盘上。

是否有擦除编码技术,以便我可以:

  • 为大型文件创建奇偶校验分片,而无需使用大量 内存量
  • 通过在创建字节
  • 时发送字节,以增量方式创建奇偶校验分片并将其分发到另一个系统。

为了理解这里的目标,如果您将八个 4gb 分片视为 8 行的矩阵,其中每行有 4GB 的数据,那么奇偶校验将是 3 行,每行有 4GB 的数据?假设是这种情况,那么代码一次需要编码和传输 11 行块,可能使用 10 MB 块,这将需要 110MB 内存(加上 RSECC 使用的表的开销)。最好使用更小的块,具体取决于传输数据时的消息传递开销。

在接收端,您希望至少对接收的数据进行双倍缓冲,将初始视频输出延迟至少一个缓冲时间,以便数据接收和校正与视频显示并行进行。

问题提到了擦除,这是否是一种仅在擦除的情况下需要重新传输的方案?使用 3 个奇偶校验,可以更正 1 行数据块,留下一个奇偶校验行用于错误检测。

相关内容

  • 没有找到相关文章

最新更新