CANN/AMCT模型评估器
ModelEvaluator【免费下载链接】amctAMCT是CANN提供的昇腾AI处理器亲和的模型压缩工具仓。项目地址: https://gitcode.com/cann/amct产品支持情况产品是否支持Ascend 950PR/Ascend 950DT√Atlas A3 训练系列产品/Atlas A3 推理系列产品√Atlas A2 训练系列产品/Atlas A2 推理系列产品√功能说明针对某一个模型根据模型的bin类型输入数据提供一个Python实例可对该模型执行校准和推理的评估器。函数原型class ModelEvaluator(AutoCalibrationEvaluatorBase): def __init__(self, data_dir, input_shape, data_types):参数说明参数名输入/输出说明data_dir输入含义与模型匹配的bin格式数据集路径。数据类型string参数值格式data/input1/;data/input2/使用约束路径支持大小写字母a-zA-Z、数字0-9、下划线_、中划线-、句点.、中文字符。若模型有多个输入且每个输入有多个batch数据则不同的输入数据必须存储在不同的目录中目录中文件的名称必须按照升序排序。所有的输入数据路径必须放在双引号中节点中间使用英文分号分隔。单个bin文件中存储的数组shape需要和input_shape中输入的shape相匹配例如单张图片bin存储的数组shape为1x224x224x3则input_shape中输入的必须为1x224x224x3如需多个bin做量化则可通过调整batch_num取值实现。input_shape输入含义模型输入的shape信息。数据类型string参数值格式input_name1:n1,c1,h1,w1;input_name2:n2,c2,h2,w2。使用约束指定的节点必须放在双引号中节点中间使用英文分号分隔。data_types输入含义输入数据的类型。数据类型string参数值格式float32;float64使用约束若模型有多个输入且数据类型不同则需要分别指定不同输入的数据类型指定的输入数据类型必须按照输入节点顺序依次放在双引号中所有的输入数据类型必须放在双引号中中间使用英文分号分隔。返回值说明一个Python实例。调用示例import amct_pytorch as amct evaluator amct.ModelEvaluator( data_dir./data/input_bin/, input_shapeinput:32,3,224,224, data_typesfloat32)【免费下载链接】amctAMCT是CANN提供的昇腾AI处理器亲和的模型压缩工具仓。项目地址: https://gitcode.com/cann/amct创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考