ChainerMN

chainerMN InfiniBandのような高速なネットワークインフラを活用するため、ChainerMNはノード間通信においてMPIに依存しています。そしてGPU間でのノード内通信では、NVIDIAのNCCLが使用されます。

以下は、ChainerMNに72%までの正解率を達成させる際、パフォーマンス向上のためにInfiniBandを活用することの利点を示しています。

chainerMN
ChainerMNについてより詳しく知りたい場合、こちらを参照してください