今天的问题是我需要在二进制文件中的起始位置写入一个数字数组。我有它应该开始的位置,之后我不想覆盖值,只想在文件中的起始位置插入数组。例如:
12345
让我们在位置 2 推 456:
12456345
我知道我可能必须自己实现它,但我想知道你对如何尽可能有效地实现它有什么看法。
extend_file_and_insert()
或多或少地完成了这项工作。
#include <sys/stat.h>
#include <unistd.h>
enum { BUFFERSIZE = 64 * 1024 };
#define MIN(x, y) (((x) < (y)) ? (x) : (y))
/*
off_t is signed
ssize_t is signed
size_t is unsigned
off_t for lseek() offset and return
size_t for read()/write() length
ssize_t for read()/write() return
off_t for st_size
*/
static int extend_file_and_insert(int fd, off_t offset, char const *insert, size_t inslen)
{
char buffer[BUFFERSIZE];
struct stat sb;
int rc = -1;
if (fstat(fd, &sb) == 0)
{
if (sb.st_size > offset)
{
/* Move data after offset up by inslen bytes */
size_t bytes_to_move = sb.st_size - offset;
off_t read_end_offset = sb.st_size;
while (bytes_to_move != 0)
{
ssize_t bytes_this_time = MIN(BUFFERSIZE, bytes_to_move);
ssize_t rd_off = read_end_offset - bytes_this_time;
ssize_t wr_off = rd_off + inslen;
lseek(fd, rd_off, SEEK_SET);
if (read(fd, buffer, bytes_this_time) != bytes_this_time)
return -1;
lseek(fd, wr_off, SEEK_SET);
if (write(fd, buffer, bytes_this_time) != bytes_this_time)
return -1;
bytes_to_move -= bytes_this_time;
read_end_offset -= bytes_this_time; /* Added 2013-07-19 */
}
}
lseek(fd, offset, SEEK_SET);
write(fd, insert, inslen);
rc = 0;
}
return rc;
}
(请注意添加的附加行 2013-07-19;这是一个错误,仅当缓冲区大小小于要复制到文件的数据量时才显示。感谢马拉特指出错误。 代码现在使用 BUFFERSIZE = 4
.( 进行了测试
这是一些小规模的测试代码:
#include <fcntl.h>
#include <string.h>
static const char base_data[] = "12345";
typedef struct Data
{
off_t posn;
const char *data;
} Data;
static const Data insert[] =
{
{ 2, "456" },
{ 4, "XxxxxxX" },
{ 12, "ZzzzzzzzzzzzzzzzzzzzzzzzX" },
{ 22, "YyyyyyyyyyyyyyyY" },
};
enum { NUM_INSERT = sizeof(insert) / sizeof(insert[0]) };
int main(void)
{
int fd = open("test.dat", O_RDWR | O_TRUNC | O_CREAT, 0644);
if (fd > 0)
{
ssize_t base_len = sizeof(base_data) - 1;
if (write(fd, base_data, base_len) == base_len)
{
for (int i = 0; i < NUM_INSERT; i++)
{
off_t length = strlen(insert[i].data);
if (extend_file_and_insert(fd, insert[i].posn, insert[i].data, length) != 0)
break;
lseek(fd, 0, SEEK_SET);
char buffer[BUFFERSIZE];
ssize_t nbytes;
while ((nbytes = read(fd, buffer, sizeof(buffer))) > 0)
write(1, buffer, nbytes);
write(1, "n", 1);
}
}
close(fd);
}
return(0);
}
它产生输出:
12456345
1245XxxxxxX6345
1245XxxxxxX6ZzzzzzzzzzzzzzzzzzzzzzzzZ345
1245XxxxxxX6ZzzzzzzzzzYyyyyyyyyyyyyyyYzzzzzzzzzzzzzzZ345
它应该在一些较大的文件(大于 BUFFERSIZE 的文件(上进行测试,但使用远小于 64 KiB 的 BUFFERSIZE 进行测试是明智的;我使用了 32 个字节,似乎还可以(。 我只看了结果,但这些模式旨在让您很容易看到它们是正确的。 该代码不检查任何lseek()
调用;这是一个很小的风险。
首先,使用 ftruncate()
将文件放大到最终大小。 然后将所有内容从旧端复制到新端,然后返回到插入点。 然后用要插入的数据覆盖中间内容。 我认为这是非常有效的,因为文件系统通常不会在文件中间提供真正的"插入"。
我同意其他人的观点,但让我以不同的方式陈述解决方案:
-
获取临时文件名(对此有特定于操作系统的调用(
-
将原始文件复制到临时文件(现在同一文件有两个副本(
-
打开"追加"的原始文件。
-
将其"截断"到插入点
-
写入新数据
-
打开临时文件进行"读取">
-
"搜索"到插入点(同样,调用是特定于操作系统的(
-
读取到临时文件中的文件末尾;插入到原始文件中(仍打开以进行"追加"(。
-
关闭两个文件
-
删除临时文件
我将把你的问题广义地解释为"我怎样才能有效地实现对象的持久存储,该存储支持通过索引和扩展插入进行随机访问查找。 如前所述,您可以在文件中使用简单的线性数组,但这仅对查找(O(1((有效,而对于插入(O(n((效率很低。 您可以通过改用树数据结构来实现查找和插入的 O(log n(。 维护一个充当索引的文件,另一个充当数据存储的文件是一系列块。 每个块可以部分填满。 索引文件包含一个树(二叉树或B树(,其中每个节点对应于数组的某个连续块,并包含该块的大小(因此根节点包含整个数组的大小(。 对于二叉树,左右子节点包含数组左右两半(大约(的大小。 最后,叶节点包含一个指针,指向数据存储文件中包含实际数据的块。 插入现在涉及更改"k"节点的"size"属性,其中"k"是树的高度。 当数据存储块太满时,将其拆分(通过增长文件来分配一个新块,或者,如果您也支持删除,则可能从空块的免费列表中(并重新平衡树(许多标准方法可以执行此操作(。
这听起来很复杂吗? 绝对! 高效的中间文件插入比追加更复杂。