对于每一工作者都使用不同的数据
Data-parallel 数据并行,在不同的数据上的同样的操作。也称为SIMD。
SPMD 同样的程序,不同的数据。
MIMD 不同的程序,不同的数据。
SPMD和MIMD在本质上是相同的,因为任何MIMD可以由SPMD建立
SIMD 也是等价的,但是缺少实际的感觉。
MPI 主要用于SPMD/MIMD,HPF是SIMD接口的一个例子。