MPI编程（4）—集合通信MPI_Bcast、MPI_Gather、MPI_Scatter、MPI

1. MPI_Bcast:广播消息

MPI_Bcast用于将一个进程的buffer中的数据广播到其他进程的相同buffer变量中

代码示例如下：

 int rank, data[10];MPI_Init(0, 0);MPI_Comm_rank(MPI_COMM_WORLD, &rank);if (rank == 0) {   for (int i = 0; i < 10; ++i){     data[i] = i + 1;}}        //进程0广播数据给所有进程MPI_Bcast(&data, 10, MPI_INT, 0, MPI_COMM_WORLD);//printf("process %d send data\n", rank);//每个进程该变量都被置为一样的值printf("process %d receive data:", rank);  for (int i = 0; i < 10; ++i){printf("%d ", data[i]);}MPI_Finalize();

运行 mpiexec -n 4 TestMPI.exe 后，可以看到各进程的data变量都被设置了与进程0该变量相同的值了

2. MPI_Gather:收集消息

MPI_Gather用于将所有进程的某个变量值发送给某一个进程，并按照进程rank值排序。
代码示例如下：

 int rank, data = 0;int size;MPI_Init(0, 0);MPI_Comm_size(MPI_COMM_WORLD, &size);MPI_Comm_rank(MPI_COMM_WORLD, &rank);//每个进程分别对data赋不同的值for (int i = 0; i < size; ++i){if (i == rank){data = i + 1;}}int receiveRank = 0; //收集消息的进程rankint* rbuf = new int[size];//进程0收集其他所有进程的数据MPI_Gather(&data, 1, MPI_INT, rbuf, 1, MPI_INT, receiveRank, MPI_COMM_WORLD);//只有进程0的数据是收集所有进程的值 其他进程全是随机值printf("process %d receive data:", rank);  for (int i = 0; i < size; ++i){printf("%d ", rbuf[i]);}MPI_Finalize();

运行 mpiexec -n 4 TestMPI.exe 后，可以看到各进程的data都发送到进程0，并在收集数据buf中按照进程rank排序，其他进程收集数据buf是随机值。
除了收集数据的进程需要分配buf外，其他进程不需要buf，因此可以不用分配，如下代码所示

 int receiveRank = 0;int* rbuf = 0;//只有收集消息的进程为接收buf分配内存if (rank == receiveRank){rbuf = new int[size];}//进程0收集其他所有进程的数据MPI_Gather(&data, 1, MPI_INT, rbuf, 1, MPI_INT, receiveRank, MPI_COMM_WORLD);//只有进程0的数据是收集所有进程的值printf("process %d receive data:", rank);  if (rbuf != 0){for (int i = 0; i < size; ++i){printf("%d ", rbuf[i]);}}

3. MPI_Scatter:散播消息

MPI_Scatter用于将某个进程的数据分配/散播给所有进程，发送的部分数据按照进程rank值依次发送给各进程，如前图所示。
代码示例如下：

 int rank,data;int* sendBuf;int size;MPI_Init(0, 0);MPI_Comm_size(MPI_COMM_WORLD, &size);MPI_Comm_rank(MPI_COMM_WORLD, &rank);sendBuf = new int[size];for (int i = 0; i < size; ++i){sendBuf[i] = i + 1;}//发送消息的进程rankint sendRank = 0;//进程0散播（分配）数据到各进程MPI_Scatter(sendBuf, 1, MPI_INT, &data, 1, MPI_INT, sendRank, MPI_COMM_WORLD);//每个进程的data按照rank顺序依次被散播为不同数据printf("process %d receive data %d", rank, data);   MPI_Finalize();

运行 mpiexec -n 4 TestMPI.exe 后，可以看到进程0中sendBuf的各个int值，分别发送到各进程的data中，而且是按照进程rank值依次有序的。

3. MPI_Reduce:Gather+Reduce

MPI_Reduce不仅收集所有进程发送的消息，并且在收集的所有数据上执行reduce操作，并返回计算后的值。可执行的reduce操作包括最大值（MPI_MAX）、最小值（MPI_MIN）、和（MPI_SUM）、乘积（MPI_PROD）、逻辑与（MPI_LAND）、逻辑或（MPI_LOR）、逻辑异或（MPI_LXOR）、按位与（MPI_BAND）、按位或（MPI_BOR）、按位异或（MPI_BXOR）等
代码示例如下：

 int rank, data = 0;int size;MPI_Init(0, 0);MPI_Comm_size(MPI_COMM_WORLD, &size);MPI_Comm_rank(MPI_COMM_WORLD, &rank);//每个进程分别对data赋不同的值data = rank + 1;int receiveRank = 0;int sum = 0;//进程0收集其他所有进程的数据MPI_Reduce(&data, &sum, 1, MPI_INT, MPI_SUM, receiveRank, MPI_COMM_WORLD);//printf("process %d send data\n", rank);//只有进程0的数据是收集所有进程的值 其他进程全是随机值printf("process %d send data %d:\n", rank, data);   if (rank == receiveRank){printf("process %d reduce sum is %d\n", rank, sum);}MPI_Finalize();
}

运行 mpiexec -n 4 TestMPI.exe 后，可以看到进程0中收集的数据经过reduce操作，计算出所有进程数据的和。