CANN/catlass带步长批量矩阵乘法TLA示例

StridedBatchedMatmulTla Example Readme【免费下载链接】catlass本项目是CANN的算子模板库提供NPU上高性能矩阵乘及其相关融合类算子模板样例。项目地址: https://gitcode.com/cann/catlass代码组织├── 45_strided_batched_matmul_tla │ ├── CMakeLists.txt # CMake编译文件 │ ├── README.md │ └── strided_batched_matmul_tla.cpp # 主文件使用示例获取代码之后编译相应的算子可执行文件可参考quickstart执行算子# 编译指定用例 bash scripts/build.sh 45_strided_batched_matmul_tla cd output/bin # 基本用法可执行文件名 batch轴|m轴|n轴|k轴|Device ID # Device ID 可选默认为0 ./45_strided_batched_matmul_tla 5 256 512 1024 0 # layout 定制仅支持 row/col大小写不敏感可选默认 row row # - layoutA: A(M,K) 的 layout # - layoutB: B(K,N) 的 layout # layout 是一个“可选的尾部分组”可以追加在任意一种参数组合的末尾 ./45_strided_batched_matmul_tla 5 256 512 1024 row col ./45_strided_batched_matmul_tla 5 256 512 1024 0 row col # stride 定制单位elements # - lda/ldb/ldc分别为 A(M,K)/B(K,N)/C(M,N) 的 leading dimension # - A: row 时 ldaKcol 时 ldaM # - B: row 时 ldbNcol 时 ldbK # - C: 本示例固定为 row因此 ldcN # - strideA/strideB/strideCbatch 维度上相邻两矩阵的步长 # # 只指定 lda/ldb/ldcstrideBatch 默认连续 ./45_strided_batched_matmul_tla 5 256 512 1024 0 1100 600 600 # # 同时指定 batch stride支持 batch 间 padding ./45_strided_batched_matmul_tla 5 256 512 1024 0 1100 600 600 300000 400000 500000 # layout stride 混用当传 layoutA/layoutB 时必须放在命令行最后两个参数位置 ./45_strided_batched_matmul_tla 5 256 512 1024 0 1100 600 600 300000 400000 500000 col row执行结果如下说明精度比对成功。Compare success.【免费下载链接】catlass本项目是CANN的算子模板库提供NPU上高性能矩阵乘及其相关融合类算子模板样例。项目地址: https://gitcode.com/cann/catlass创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考