CANN torchtitan-npu 安装指南

软件安装【免费下载链接】torchtitan-npuAscend Extension for torchtitan项目地址: https://gitcode.com/cann/torchtitan-npu版本配套表torchtitan-npu支持Atlas 800T A3等昇腾训练硬件形态。软件版本配套表如下torchtitan-npu版本torchtitan版本PyTorch版本torch_npu版本CANN版本Python版本Triton Ascendmaster主线0.2.22.10.02.10.0rc29.0.0-beta.1Python3.11.x3.2.0源码安装1.安装依赖的软件在安装torchtitan-npu之前请参考版本配套表安装配套的昇腾软件栈软件列表如下依赖软件软件安装指南昇腾NPU驱动《驱动固件安装指南》昇腾NPU固件Toolkit开发套件《CANN 软件安装指南》Kernel算子包NNALAscend Transformer Boost加速库PyTorch《Ascend Extension for PyTorch 配置与安装》torch_npu插件2. 下载torchtitan-npu源码master分支请注意下列命令的大小写git clone https://gitcode.com/cann/torchtitan-npu.git3. 安装torchtitan-npucd torchtitan-npu pip install -r requirements.txt pip install -e .注如有旧版本Torchtitan-npu请先卸载再进行安装4. 安装inductor-npu-ext可选使能torch.compile时需要为了在 NPU 平台上充分利用torch.compile原生的编译能力torchtitan_npu在保留 Dynamo 与 Inductor 既有编译流程的基础上接入了 Codegen 后端inductor-npu-ext。该后端借助 AutoFuse 的自动融合能力从 Inductor IR 生成 AscendC 融合 Kernel。inductor_npu_ext 需要从源码安装。在运行环境内执行以下命令git clone https://gitcode.com/Ascend/torchair.git cd torchair/experimental/_inductor_npu_ext/ pip3 install -e ./python/ cd -注具体torch.compile特性文档请参考 说明文档PyPI安装pip install torchtitan_npu0.2.2.post1卸载pip uninstall torchtitan_npu【免费下载链接】torchtitan-npuAscend Extension for torchtitan项目地址: https://gitcode.com/cann/torchtitan-npu创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考