c-MPI在非标准类型上进行分布式读取

Question

我正在尝试读取一个包含char和double序列的二进制文件。（例如0 0.125 1 1.4 0 2.3 1 4.5，但写在二进制文件中）。我创建了一个简单的结构输入，还有一个MPI数据类型，我将调用对应于该结构的MPI_input。

typedef struct { char type; double value } input;

我想使用MPI_File_read_at_all并行读取我的文件（即使用不同的处理器）。我想在这个函数中使用数据类型mpi_input。

问题是，我认为这个函数需要一个缓冲区，它会一直写到最后。我尝试使用input *buffer，但由于数据结构对齐，这会产生问题。你对怎么做有什么想法吗？

下面是一个最小的工作示例：

#include <stdlib.h>
#include <stdio.h>
#include <string.h>
#include <mpi.h>
#include <assert.h>
#include <stddef.h>
int main(int argc, char** argv)
{
    typedef struct
    {
        double val;
        char type;
    } input;
    int rank, size;
    MPI_Init(&argc, &argv);
    MPI_Comm_rank(MPI_COMM_WORLD, &rank);
    MPI_Comm_size(MPI_COMM_WORLD, &size);
    assert(size == 4);
    MPI_File in;
    MPI_Offset filesize;
    MPI_File_open(MPI_COMM_WORLD, argv[1], MPI_MODE_RDONLY, MPI_INFO_NULL, &in);
    MPI_File_get_size(in, &filesize);
    int mysize = filesize/size;
    int globalstart = rank * mysize;
    input *chunk = malloc(sizeof(input)*2);
    int n = 128;
    int m = 256;
    int blocks[2] = {1,1};
    MPI_Datatype types[2] = {MPI_BYTE, MPI_DOUBLE};
    MPI_Aint displacements[2];
    MPI_Datatype cell_type;
    MPI_Aint charex, doublex;
    displacements[0] = offsetof(input, type);
    displacements[1] = offsetof(input, val);
    MPI_Type_create_struct(2, blocks, displacements, types, &cell_type);
    MPI_Type_commit(&cell_type);
    MPI_File_read_at_all(in, globalstart, chunk, mysize, cell_type, MPI_STATUS_IGNORE);
    if(rank == 0)
        printf("0 - Got %d %fn", chunk->val, chunk->type);
    if(rank == 4)
        printf("Got %d %fn", chunk->val, chunk->type);
    MPI_File_close(&in);
    MPI_Finalize();
}

这里有一个生成简单二进制文件的代码：

#include <stdio.h>
#include <stdlib.h>
int main()
{
    FILE *fp;
    char* filename = "test.dump";
    fp = fopen(filename, "wb");
    char bla = 8;
    for(double i = 0; i < 8; i++)
    {
        fwrite(&bla, sizeof(char), 1, fp);
        bla--;
        fwrite(&i, sizeof(double), 1, fp);
    }
    fclose(fp);
}

Answer 1

您为MPI_File_read_at_all提供了错误的参数。在MPI中，与要发送/接收/读取/写入的数据相关的自变量几乎总是以以下形式的三元组给出：buffer, #elements, datatype。

在您的情况下，#elements等于mysize，后者以字节为单位，而不是以数据类型cell_type的元素数为单位。因此，该函数读取的元素超过了缓冲区中的容纳量，从而损坏了堆。

相反，您应该做的是将mysize除以数据类型的大小（这是而不是sizeof(input)！）：

int cell_type_size;
MPI_Type_size(cell_type, &cell_type_size);
...
MPI_File_read_at_all(in, globalstart,
    chunk, mysize / cell_type_size, cell_type, MPI_STATUS_IGNORE);
//  ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~
//         data specification triplet

此外，您的第二个printf语句将永远不会执行，因为在4个MPI进程的情况下，rank从0到3各不相同。