GPipe它是一个加速器?谷歌开源有什么用？

加速DNN模型训练速度方法中，数据并行受到单个加速器可支持模型大小的限制;而模型并行因为DNN顺序性导致大量算力浪费。目前Google推出GPipe2020-08-25 14:19