-
参考资料: 消息传递接口(MPI)维基百科 MPI_TUTORIAL MPI 在大规模机器学习领域的前景如何? 因为要和平台组对接工作以及写我们自己的BN同步...所以来了解一下MPI相关...感谢平台组@gyz 菊苣提供指导。 下面写一些自己的理解 ^_^ OVERVIEW MPI是一个跨语言的通讯协议,用于并行相关 MPI不是一种具体的语言实现,而是一种标准或者说接口,类比sql在关系型数据库中的地位,具体用的时候我们是用某个特定的实现,例如openmpi或者mpich2 对于机器学习问题,MPI很适合用在超算上... 下面随便补一些我认为需要了解的: ** **_communicator _是一个进程的group,该group …
Read More