PaddleSlim的自动化压缩工具ACTAuto Compression Tool提供了非结构化稀疏应用在剪枝的过程中和量化加速等功能ACT支持离线量化和量化训练QAT两种方式离线量化是在不改变模型训练过程的情况下paddleslim,直接对训练好的模型进行量化而量化训练则是在模型训练过程中引入量化误差paddleslim,使模型在量化后仍。
飞桨团队选择了YOLOv3模型,通过飞桨模型压缩工具PaddleSlim进行剪裁蒸馏量化,使之可以部署到内存有限的存量设备上,最后通过飞桨轻量化推理引擎Paddle Lite成功部署上线,实现了输电通道的可视化巡检重大火情极速预警三飞桨生态建设 飞桨开源社区累计提交commits超过50万次,以PR或ISSUE提交形式的开源。
运行流程PaddleLite框架运行在PS上,通过PaddleLite与在用户空间执行代码的Intel_fpga_sdk交互,进而通过nnadrv驱动与内核空间交互,控制FPGA进行计算并接收其状态模型训练与优化 训练平台基于百度飞桨PaddlePaddle平台,使用PaddleDetection训练CNN模型剪枝与量化搭配PaddleSlim对模型进行剪枝和量化通过。
联系电话:18300931024
在线QQ客服:616139763
官方微信:18300931024
官方邮箱: 616139763@qq.com