OneFlow系统设计
OneFlow系统设计本文的主要内容如下:• OneFlow 的设计目标• OneFlow 的特色一:Actor 机制• OneFlow 的特色二:SBP 机制• 总结一、OneFlow 的设计目标OneFlow 的设计目标是追求极致的性能,特别是分布式多机多卡环境下的横向扩展性,希望能让用户使用多机多卡就像使用单机单卡一样容易,且享受线性加速的运行效率。为什么 OneFlow 要聚焦于分布式场景的性能和易用性呢?随着深度学习的发展,模型越来越大,训练深度学习模型所需的算力会越来越高,同时模