集合通信-通信原语
网络拓扑  

集合通信-通信原语

参考来源: 分布式训练常用的集合通信及其通信原语, 分布式训练常用的网络结构及集合通信拓扑算法
阅读更多
HCCL集合通信测试环境设置
网络拓扑  

HCCL集合通信测试环境设置

1. 快速使用 HCCL（Huawei Collective Communication Library）是基于昇腾AI处理器的高性能集合通信库，其主要功能与作用与Nvidia的NCCL库相似，主要用于集合通信，CANN库种自带一套测试工具用以分析集合通信性能。 1.1 编译环境配置
阅读更多
关注我

分类

最新文章

标签

ASTRA-sim 1
Tofu 1
Twisted Torus 1
Torus 2
ARTICLE 19
Simulate 6
Topology 7
Collective Communication 6
MPI 2
NPU 3
HCCL 2
Heterogeneous 1
Ascend 3
TP 2
PP 3
MP 3
GPU 1
ZeRO 1
DP 3
LLM 8
CUDA 1
Latex 1

最新文章

标签

ASTRA-sim 1
Tofu 1
Twisted Torus 1
Torus 2
ARTICLE 19
Simulate 6
Topology 7
Collective Communication 6
MPI 2
NPU 3
HCCL 2
Heterogeneous 1
Ascend 3
TP 2
PP 3
MP 3
GPU 1
ZeRO 1
DP 3
LLM 8
CUDA 1
Latex 1
Your browser is out-of-date!

Update your browser to view this website correctly. Update my browser now

×