华为CANN PyPTO设置代码生成选项
pypto.set_codegen_options【免费下载链接】pyptoPyPTO发音: pai p-t-oParallel Tensor/Tile Operation编程范式。项目地址: https://gitcode.com/cann/pypto产品支持情况产品是否支持Atlas A3 训练系列产品/Atlas A3 推理系列产品√Atlas A2 训练系列产品/Atlas A2 推理系列产品√功能说明设置codegen的选项。函数原型set_codegen_options(*, support_dynamic_aligned: bool None) - None参数说明参数名输入/输出说明support_dynamic_aligned输入含义是否支持动态Shape。说明当值为True算子生成的设备侧二进制可支持动态Shape对齐场景。当值为False算子生成的设备侧二进制仅支持处理动态Shape非对齐场景。类型bool取值范围{True, False}默认值False当算子确认动态Shape且Shape尾轴均为对齐时可尝试打开确认是否有性能收益影响Pass范围无仅影响CodeGen模块生成设备侧目标代码返回值说明voidSet方法无返回值。设置操作成功即生效。约束说明support_dynamic_aligned选项效果后续会通过Pass推导机制进行优化无需用户手工设置并日落建议用户谨慎使用。调用示例pypto.set_codegen_options(support_dynamic_alignedTrue)【免费下载链接】pyptoPyPTO发音: pai p-t-oParallel Tensor/Tile Operation编程范式。项目地址: https://gitcode.com/cann/pypto创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考