同步操作将从 PaddlePaddle/PaddleSlim 强制同步,此操作会覆盖自 Fork 仓库以来所做的任何修改,且无法恢复!!!
确定后同步将在后台操作,完成时将刷新页面,请耐心等待。
PaddleSlim是一个专注于深度学习模型压缩的工具库,提供剪裁、量化、蒸馏、和模型结构搜索等模型压缩策略,帮助用户快速实现模型的小型化。
PaddleSlim | PaddlePaddle | PaddleLite | 备注 |
---|---|---|---|
1.0.1 | <=1.7 | 2.7 | 支持静态图 |
1.1.1 | 1.8 | 2.7 | 支持静态图 |
1.2.0 | 2.0Beta/RC | 2.8 | 支持静态图 |
2.0.0 | 2.0 | 2.8 | 支持动态图和静态图 |
安装最新版本:
pip install paddleslim -i https://pypi.tuna.tsinghua.edu.cn/simple
安装指定版本:
pip install paddleslim==2.0.0 -i https://pypi.tuna.tsinghua.edu.cn/simple
2021.2.5: 发布V2.0.0版本,新增支持动态图,新增OFA压缩功能,优化剪枝功能。 2020.9.16: 发布V1.2.0版本,新增PACT量化训练功能,新增DML(互蒸馏功能),修复部分剪裁bug,加强对depthwise_conv2d的剪裁能力,优化剪裁和量化API的易用性和灵活性。
更多信息请参考:release note
PaddleSlim支持以下功能,也支持自定义量化、裁剪等功能。
Quantization | Pruning | NAS | Distilling |
---|---|---|---|
注:
PaddleSlim在典型视觉和自然语言处理任务上做了模型压缩,并且测试了Nvidia GPU、ARM等设备上的加速情况,这里展示部分模型的压缩效果,详细方案可以参考下面CV和NLP模型压缩方案:
表1: 部分模型压缩加速情况
注:
快速开始教程是能基于CIFAR10数据集快速运行起来的简单示例,若您是Paddle官方模型套件用户,请直接使用下方的CV模型压缩或者NLP模型压缩中教程。
进阶教程详细介绍了每一步的流程,帮助您把相应方法迁移到您自己的模型上。
通道剪裁
低比特量化
NAS
蒸馏
本系列教程均基于Paddle官方的模型套件中模型进行压缩,若您不是模型套件用户,更推荐使用快速教程和进阶教程。
检测模型压缩
压缩方案
方法应用-静态图
方法应用-动态图
分割模型压缩
OCR模型压缩
压缩方案
方法应用-静态图
方法应用-动态图
本项目的发布受Apache 2.0 license许可认证。
我们非常欢迎你可以为PaddleSlim提供代码,也十分感谢你的反馈。
请添加微信公众号"AIDigest",备注“压缩”,飞桨同学会拉您进入微信交流群。
此处可能存在不合适展示的内容,页面不予展示。您可通过相关编辑功能自查并修改。
如您确认内容无涉及 不当用语 / 纯广告导流 / 暴力 / 低俗色情 / 侵权 / 盗版 / 虚假 / 无价值内容或违法国家有关法律法规的内容,可点击提交进行申诉,我们将尽快为您处理。