集合通信 - AllReduce【免费下载链接】hccl集合通信库Huawei Collective Communication Library简称HCCL是基于昇腾AI处理器的高性能集合通信库为计算集群提供高性能、高可靠的通信方案项目地址: https://gitcode.com/cann/hccl样例介绍本样例展示如何使用HcclAllReduce()接口执行 AllReduce 操作包含以下功能点设备检测通过aclrtGetDeviceCount()接口查询可用设备数量。将 rank0 作为 root 节点通过HcclGetRootInfo()接口生成 root 节点的 rootinfo 标识信息。rootinfo 标识信息主要包含Device IP、Device ID 等信息此信息需广播至集群内所有 rank 用来初始化通信域。在每个线程中基于 rootinfo 标识信息通过HcclCommInitRootInfo()接口初始化通信域。调用HcclAllReduce()算子将通信域内所有 rank 的输入数据进行相加后再把结果发送到所有节点并打印结果。目录结构├── main.cc # 样例源文件 ├── Makefile # 编译/构建配置文件 └── allreduce # 编译生成的可执行文件环境准备环境要求本样例支持以下产品Ascend 950PR / Ascend 950DTAtlas A3 训练系列产品 / Atlas A3 推理系列产品Atlas A2 训练系列产品Atlas 训练系列产品 / Atlas 推理系列产品配置环境变量# 设置 CANN 环境变量以 root 用户默认安装路径为例 source /usr/local/Ascend/cann/set_env.sh编译执行样例在本样例代码目录下执行如下命令make make test注意可通过设置HCCL_OP_EXPANSION_MODE环境变量配置通信算子的展开模式不同产品型号支持的范围可参考环境变量列表中该环境变量的使用方法。# 设置通信算子的展开模式为AI CPU通信引擎 export HCCL_OP_EXPANSION_MODEAI_CPU结果示例每个 rank 的数据初始化为 0~7经过 AllReduce 操作后每个 rank 的结果是所有 rank 对应位置数据的和8 个 rank 的数据相加。Found 8 NPU device(s) available rankId: 0, output: [ 0 8 16 24 32 40 48 56 ] rankId: 1, output: [ 0 8 16 24 32 40 48 56 ] rankId: 2, output: [ 0 8 16 24 32 40 48 56 ] rankId: 3, output: [ 0 8 16 24 32 40 48 56 ] rankId: 4, output: [ 0 8 16 24 32 40 48 56 ] rankId: 5, output: [ 0 8 16 24 32 40 48 56 ] rankId: 6, output: [ 0 8 16 24 32 40 48 56 ] rankId: 7, output: [ 0 8 16 24 32 40 48 56 ]【免费下载链接】hccl集合通信库Huawei Collective Communication Library简称HCCL是基于昇腾AI处理器的高性能集合通信库为计算集群提供高性能、高可靠的通信方案项目地址: https://gitcode.com/cann/hccl创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考