1.芯片型号:XJ3
2.天工开物开发包OpenExplorer版本:xj3_open_explorer_v2.6.2
3.问题定位:模型转换
4.问题具体描述:量化结果在附件给出。
根据连接 https://developer.horizon.ai/forumDetail/136488103547258457 排查了校准数据的处理流程,流程无问题。将默认的右下角 padding 改为周围 padding 后,验证集的 AP 结果有小幅提升。calibration_type 从 max 改为 kl 之后,验证集的结果有 2% 的提升。但相对于 original_float_model.onnx,目前 quantized_model.onnx 有 12% 的验证集精度损失。-
转换日志中大多数节点的相似度都没有达到 0.8,希望指导后续处理方式。
orig_ret.jpg-
quant_ret.jpg-
kapao.yaml-
hb_mapper_makertbin.log