刷新滤波器剪枝的SOTA效果，腾讯优图论文入选NeurIPS2020
近日，腾讯优图实验室在模型压缩任务中获得创新性突破，提出的基于滤波器骨架的逐条剪枝算法（Stripe-Wise Pruning，SWP），刷新了滤波器剪枝的SOTA效果。相关论文（Pruning Filter in Filter）已被机器学习领域的国际顶级会议Conference on Neural Information Processing Systems（NeurIPS 2020）收录。
图1 Stripe-Wise Pruning与几种主流Pruning方式的区别
神经网络的具有结构和参数这两个属性，这两个属性都具有重要意义。本文指出神经网络的滤波器除了通常使用的参数属性以外，还有一种形状属性。形状属性之前一直隐含在参数中，通过训练每个滤波器的参数使其获得不同的形状。滤波器的形状属性具有重要的意义。具有合适形状的滤波器，即使参数是随机的，也能具有较好的性能。
因此本文通过一种名为滤波器骨架（Filter Skeleton，FS）的模块来显性地学习滤波器的形状（如图中①）。当训练结束，我们可以将FS乘回参数上，因此不会引入额外的参数（如图中②）。
图2 PFF方法流程示意图
对于不在骨架上的参数，使用逐条裁剪的方法将其整条（stripe，1*1滤波器）裁剪掉。
具体的，首先通过卷积计算顺序的变换，可以将滤波器从Filter wise等价变换为stripe wise（如图中③）。接下来就可以使用正常的滤波器剪枝方法对其进行裁剪（如图中④）。
该方法的创新点包括：
（1） 提出滤波器除了参数属性外，还存在形状属性，并且形状属性具有重要意义。
（2） 提出滤波器骨架的模块来学习滤波器的形状，并可以指导模型剪枝。
（3） 通过变换普通卷积为Stripe-Wise Convolution，结构化的实现逐条剪枝后的模型。
逐条剪枝算法在CIFAR10和ImageNet数据集上达到了SOTA效果。
免责声明：市场有风险，选择需谨慎！此文仅供参考，不作买卖依据。
关键词：
推荐阅读
运动型轿车是什么 运动型轿车与普通车有何区别？
运动型轿车凭借着外观酷炫，动力性能强的特点，深受国内众多消费者的喜爱。特别是在年轻消费者心目中，运动型轿车基本上是购车的首选。但是 【详细】
汽油清洗剂是什么 汽油清洗剂加在汽油里是干嘛的？
最近有很多车主反映加油的时候总是建议用汽油清洁剂。但是，大部分人还是不太了解，还有就是一部分人纳闷汽油清洗剂加在汽油里是干嘛的?汽 【详细】
中国最便宜的汽车是哪个 最便宜的汽车汇总
现在汽车已经成为了大家最常见的交通代步工具了。但是，依然还是有很多的家庭非常的需要代步工具，却买不起特别贵的汽车。所以今天，我们就 【详细】
伊莱克斯冰箱质量怎么样 伊莱克斯冰箱质量好不好？
伊莱克斯冰箱质量怎么样：在2018年全球500强企业中，伊莱克斯排名第162位，在2020年全球2000强企业中，伊莱克斯排名第1965位，可见伊莱克斯 【详细】
劳动保护用品是什么 劳动保护用品有哪些？
劳动保护用品有哪些?劳动防护用品分为特殊劳动防护用品和一般劳动防护用品，一般劳动防护用品是指未列入目录的一般劳动防护用品。以下产品 【详细】
相关新闻
实现高并发秒杀的七种方式
引言商品秒杀-超卖解决商品超卖方式一（改进版加锁）方式二（AOP版加锁）方式三（悲观锁一）方式四（悲观锁二）方式五（乐观锁）方式六（阻塞 【详细】
全球看热讯：3D渲染引擎 HOOPS Visualize 2023全新发布-增加对顶点着色器支持
HOOPSVisualize是一款工业级3D渲染引擎，可以用于打造移动端和PC端工程应用程序，其灵活、分层的场景管理引擎，支持处理各种3D模型 【详细】
世界看热讯：「升级」Hubstudio多账号安全管理浏览器之扩展中心上线啦！
Hubstudio多账号安全管理系统，到目前为止已经安全管理600w以上的环境账号，而且小编发现大家在环境中最常用的就是插件哦，所以为了给大家在 【详细】
汽车早报 - 消息称蔚来布局百万元级别电动车 广汽称将继续为讴歌中国客户提供售后服务
吉利称2022年新能源销量较上年翻三番1月9日，吉利控股集团官微发布消息称，2022年12月，吉利汽车集团旗下新能源（含吉利、几何、领克、极氪、 【详细】
今头条！车轮上的2022∣新能源与汽车出口带动：全国乘用车零售量同比增长1.9%
21世纪经济报道记者杜巧梅北京报道“‘新十条’改变了车市的封控状态，市场明显回升，部分有购买力的消费者希望尽快提车；同时部分政策到期加 【详细】
谷歌文档新功能：看到非打印字符
谷歌周一在一篇博文中宣布，该公司正在为GoogleDocs增加一项功能，让你看到非打印字符，如空格、制表符和各种类型的断句。该选项将在视图菜单 【详细】
世界新消息丨一加新机质感高级，更有多项黑科技加持，3999的价格入手值吗？
最后一加11出来的时候确实也是惊艳了所有人，产品力相当不俗，而且外观设计什么的也很好看，下面就跟着笔者一起来了解一下吧。 【详细】
焦点信息:中国手机品牌在2022年拿下俄罗斯市场份额65% 但高价机一个没有
2万~4万卢布最受喜欢的手机型号是:RedmiNote10Pro、Honor50Lite、三星GalaxyA52、三星G 【详细】
2022年这5款熟悉的产品向我们告别
在过去的一年里，有很多新产品发布，当然也有很多产品与我们就此别过。这些产品曾陪伴我们的生活，给我们带来欢乐，帮助我们成长。 【详细】
即时：陈副区长事件，引出一个老生常谈的问题，腾讯是否会保留聊天记录
陈副区长事件出来以后，我觉得，她，以及那男的，第一时间，都会删除手机上的聊天记录。如此，再要查那个男人是谁，就难度很大了。 【详细】
我国首个具备独立运行能力的新能源储能项目在内蒙古并网通电
日前，内蒙古自治区阿拉善盟额济纳旗“源网荷储”微电网示范项目完成建设，并初步实现并网供电，下一步将进入联调联试阶段。 【详细】
上海奉贤区初中转学条件2023
上海奉贤区初中转学条件2023寒假，上海奉贤区初中转学对象、不予转学情况如下：一、转学对象1、本市户籍学生;2、随父母到本区居住的非本市户籍 【详细】
新冠病毒变异逻辑的猜测
新冠病毒经历了多代变异。我有个大胆的猜测这个病毒变异的逻辑，是这样的:在遇到前面已经感染的毒株已经无法继续传播了，于是逼着毒株进行了变 【详细】
世界讯息：充1次用10天！史上续航最强的国产手机，太猛了
骁龙8Gen2继续支棱起来，性能释放猛功耗也不错，不需要再担心这方面问题。而iQOO、Redmi和realme持续发力，快充已经 【详细】
全球视点！10个暗藏惊喜的微信小程序，个个好用不要钱，还请低调使用
微信上的小程序非常便捷，无需安装就能使用。下面给大家推荐10个暗藏惊喜的微信小程序，个个好用不要钱，还大家请低调使用。 【详细】
世界热头条丨刘强东告别他的时代？回笼640亿携孕妻现身英国，祖宅半夜被泼漆
但有网友透露出发现刘强东和怀孕的章泽天出现在伦敦街头，有人推测刘强东回笼了640亿资金要移居海外，他老家祖宅半夜还曾被人泼上了油漆。 【详细】
更便捷！威海市立医院互联网医院上线“新冠感染门诊”
为保障群众就医安全、便利，威海市立医院充分发挥互联网医院线上复诊、续方开药等优势，及时开设发热线上咨询、心理线上咨询等互联网医疗服务 【详细】
七大常用的AR开发工具，总有一款适合你！
8thWall的现实引擎于2021年推出，使基于Web的增强现实体验能够立即在大量iOS和Android设备、计算机、平板电 【详细】
天天简讯:Telia为NCC提供面向北欧数字基础设施的全方位服务的ICT解决方案
该解决方案包括用于NCC数字基础设施关键部分的通信服务和数据网络。这些是可扩展、经济高效且灵活的解决方案，可以轻松地用于连接整个公司的新 【详细】
【全球播资讯】小米13Ultra最快2月底见面？或告别万年USB 2.0
声音|小白小米13、小米13Pro发布后大家也一直期待着小米13Ultra，早前消息预计是今年三四月发布，现据91mobiles独家报道 【详细】
