深度加速（八）——模型优化工具, 模型压缩与加速进阶（1）
2021-05-21模型优化工具
Amazon SageMaker Neo
官网：
https://aws.amazon.com/cn/sagemaker/neo/
参考
https://mp.weixin.qq.com/s/T9AUFnLjNDUaE9zKmOhbEw
将GEMM的性能提升200倍!AutoKernel算子优化工具正式开源
https://mp.weixin.qq.com/s/L9kYXFXYmKadghAhd-51pA
TensorFlow模型优化工具包—剪枝API
https://mp.weixin.qq.com/s/asPSPeBaRF_4eXcRXU-Zfw
TensorFlow模型优化工具包—训练时量化
https://mp.weixin.qq.com/s/fa5S3o1somvdAAJF1FGqvA
TensorFlow模型优化工具包正式推出
模型压缩与加速进阶
https://zhuanlan.zhihu.com/p/138059904
一文看懂深度学习模型压缩和加速
https://zhuanlan.zhihu.com/p/179945324
一文深入深度学习模型压缩和加速
https://mp.weixin.qq.com/s/QSGgvhkMUj3cXVlQwlzTFQ
深度神经网络加速和压缩新进展年度报告
https://zhuanlan.zhihu.com/p/37074222
CVPR 2018 高效小网络探密（上）
https://zhuanlan.zhihu.com/p/37919669
CVPR 2018 高效小网络探密（下）
https://zhuanlan.zhihu.com/p/38046989
从ISCA论文看AI硬件加速的新技巧
https://mp.weixin.qq.com/s/s6Z8P8bUkyoKU2mW3z-rNQ
轻量级网络/检测/分割综述
https://mp.weixin.qq.com/s/-V6hlZAKp1vuARSibZDBQQ
深度学习高效计算与处理器设计
https://mp.weixin.qq.com/s/ccFccLb2UTyFyMwFPjsDaA
让CNN跑得更快，腾讯优图提出全局和动态过滤器剪枝
https://mp.weixin.qq.com/s/cSYCT1I1asaSCIc5Hgu0Jw
计算成本降低35倍！谷歌发布手机端自动设计神经网络MnasNet
https://zhuanlan.zhihu.com/p/42474017
MnasNet：终端轻量化模型新思路
https://mp.weixin.qq.com/s/p_qdKcQwQ8y_JUw3gQUEnA
谷歌大脑用强化学习为移动设备量身定做最好最快的CNN模型
https://mp.weixin.qq.com/s/OyEIcS5o6kWUu2UzuWZi3g
这么Deep且又轻量的Network，实时目标检测
https://mp.weixin.qq.com/s/8NDOf_8qxMMpcuXIZGJCGg
Google又发大招：高效实时实现视频目标检测
https://mp.weixin.qq.com/s/IxVMMu_7UL5zFsDCcYfzYA
AutoML自动模型压缩再升级，MIT韩松团队利用强化学习全面超越手工调参
https://mp.weixin.qq.com/s/BMsvhXytSy2nWIsGOSOSBQ
自动生成高效DNN，适用于边缘设备的生成合成工具FermiNets
https://mp.weixin.qq.com/s/nEMvoiqImd0RxrskIH7c9A
仅17KB、一万个权重的微型风格迁移网络！
https://mp.weixin.qq.com/s/pc8fJx5StxnX9it2AVU5NA
基于手机系统的实时目标检测
https://mp.weixin.qq.com/s/6wzmyhIvUVeAN4Xjfhb1Yw
论文解读：Channel pruning for Accelerating Very Deep Neural Networks
https://mp.weixin.qq.com/s/-X7NYTzOzljzOaQL7_jOkw
惊呆了！速度高达15000fps的人脸检测算法！
https://mp.weixin.qq.com/s/Faej1LKqurtwEIreUVJ0cw
普林斯顿新算法自动生成高性能神经网络，同时超高效压缩
https://mp.weixin.qq.com/s/uK-HasmiavM3jv6hNRY11A
深度梯度压缩：降低分布式训练的通信带宽
https://mp.weixin.qq.com/s/MDbbGzDOGHk5TBgbu-oA
中大商汤等提出深度网络加速新方法，具有强大兼容能力
https://mp.weixin.qq.com/s/gbOmpP7XO1Hz_ld4iSEsrw
三星提出移动端神经网络模型加速框架DeepRebirth
https://mp.weixin.qq.com/s/rTFLiZ7DCo6vzD5O64UnMQ
阿里提出新神经网络算法，压缩掉最后一个比特
https://mp.weixin.qq.com/s/m9I5TM9uJcgZvMusO667OA
5MB的神经网络也高效，Facebook新压缩算法造福嵌入式设备
https://mp.weixin.qq.com/s/FFs0-ROvbXSAIOspW_rMbw
超越MobileNetV3！谷歌大脑提出MixNet轻量级网络
https://mp.weixin.qq.com/s/nys9R6xCJXt0vG06gnQzFQ
模型剪枝，不可忽视的推断效率提升方法
https://mp.weixin.qq.com/s/EuT-4_eEtIVKh6QdLDbohg
解读小米MoGA：超过MobileNetV3的移动端GPU敏感型搜索
https://mp.weixin.qq.com/s/L49cqZ2PXP-x4Y6xBJG5cQ
旷视研究院提出MetaPruning：基于元学习和AutoML的模型压缩新方法
https://mp.weixin.qq.com/s/F_p414ezQ0RDhPnZj36SUA
网络剪枝中的AutoML方法
https://zhuanlan.zhihu.com/c_151876233
如何Finetune一个小网络到移动端（时空性能分析篇）
https://mp.weixin.qq.com/s/kU0_BuQW8VQihUwBuZ90cA
发布可伸缩超网SCARLET，小米AutoML团队NAS三部曲杀青
https://mp.weixin.qq.com/s/ZfW-jDSo6uaaqdmJtBizOA
从模型精简，硬件实现，到模型剪枝
https://mp.weixin.qq.com/s/5ywMyedmplCSLzWlnoFDSQ
模型剪枝技术原理及其发展现状和展望
https://mp.weixin.qq.com/s/8jyQ_7DYn7lHMcAWokKbcA
超Mask RCNN速度4倍，仅在单个GPU训练的实时实例分割算法
https://mp.weixin.qq.com/s/TC_Ju2vuKDP6d538v2F8CQ
剪枝需有的放矢，快手&罗切斯特大学提出基于能耗建模的模型压缩
https://mp.weixin.qq.com/s/UkqwPBYgYQuIB9_jGMt2QQ
Rocket Training: 一种提升轻量网络性能的训练方法
https://mp.weixin.qq.com/s/xCzS7sYMFmk5K4ClB1I2YQ
Uber提出SBNet：利用激活的稀疏性加速卷积网络
https://mp.weixin.qq.com/s/6Wj0Y4y30BVA75WrU4oZbQ
SBNet: 提高自动驾驶系统的感知效率
https://mp.weixin.qq.com/s/HXxnhMjAchxKSidu45kOeg
网络压缩最新进展：2019年最新文章概览
https://mp.weixin.qq.com/s/Bl7-hGIxZMsHxscqb7DnMA
200～1000+fps！谷歌公布亚毫秒级人脸检测算法BlazeFace，面向移动GPU
https://mp.weixin.qq.com/s/l2_N-PXjDMCqSRwYxU4BEA
模型加速概述与模型裁剪算法技术解析
https://mp.weixin.qq.com/s/af-z73asc-PmpEsI_yEulA
北邮提出新AI模型压缩算法，显著降低计算复杂度
https://mp.weixin.qq.com/s/AOI2LUjiKPUJFE0D7zX0Hw
谷歌新研究：基于数据共享的神经网络快速训练方法
https://mp.weixin.qq.com/s/Q0XyKIrbOIrA3YsYHmwK1Q
移动端高效率的分组网络都发展到什么程度了？
https://mp.weixin.qq.com/s/l3790PuutrOF27RRmVqJhQ
面对千万级推荐，如何压缩模型最高效？这是腾讯看点新框架
https://mp.weixin.qq.com/s/n_LY6mmJRH5k_cubYOTq1A
模型剪枝有哪些关键技术，如何对其进行长期深入学习
https://mp.weixin.qq.com/s/NsvjADgQZrYkUGNN6fzXVg
驭势科技推出“东风网络”：如何找到速度-精度的最优解？
https://mp.weixin.qq.com/s/HzgRHtVwdmW6_m7OJwK-ew
SysML 2019论文解读：Accurate and Efficient 2-Bit Quantized Neural Netowrks
https://mp.weixin.qq.com/s/oah61YozMB2fMfpDqPwHjw
Deep Compression神经网络压缩经典之作
https://mp.weixin.qq.com/s/ulrPhfsPunKAWYohBhkh9w
寻找最佳的神经网络架构，韩松组两篇论文解读
https://mp.weixin.qq.com/s/oDwvMtET0moHVGgtQLfCow
5个可以让你的模型在边缘设备上高效推理的算法
https://mp.weixin.qq.com/s/nbEa0csbaMvEM3TCI3fn0Q
当前模型剪枝有哪些可用的开源工具？
https://mp.weixin.qq.com/s/0_66CScEk0qhGlTvfpmqBA
2019年的最后一个月，这里有6种你必须要知道的最新剪枝技术
https://mp.weixin.qq.com/s/u94NZVwb_ywqjTMla2upbQ
模型压缩究竟在做什么？我们真的需要模型压缩么？
https://mp.weixin.qq.com/s/Qr2Q2ARht0pEP3F8l3k98g
滴滴&东北大学提出自动结构化剪枝压缩算法框架，性能提升高达120倍
https://zhuanlan.zhihu.com/p/104447447
剪枝实践：图像检索如何加速和省显存？
https://zhuanlan.zhihu.com/p/105064255
Slimmable Networks
https://mp.weixin.qq.com/s/EBCcBWob_iFa51-gOVPYQA
揭秘微信“扫一扫”识物为什么这么快？
https://mp.weixin.qq.com/s/GFE2XYHZXPP0doQ5nd0JNQ
当前深度神经网络模型压缩和加速方法速览
https://mp.weixin.qq.com/s/JnW7RnOQKG-dPOOAQeOmSA
当前深度神经网络模型压缩和加速都有哪些方法？
https://mp.weixin.qq.com/s/YUg2dZZhDSsRpSftdNfiIQ
极致的优化：智能手机是如何处理大型神经网络的
https://mp.weixin.qq.com/s/vswtn3D1-VZZlyKLJmHc7A
纪荣嵘：深度神经网络压缩及应用
https://mp.weixin.qq.com/s/mWfZ4jfuby4myGfi6TW3wQ
从超参数到架构，一文简述模型优化策略
https://mp.weixin.qq.com/s/fU-AeaPz-lHlg0CBgqnpZQ
轻量化神经网络综述
https://mp.weixin.qq.com/s/n7neAptKozRz5p5ctvKZrQ
模型压缩——结构篇
https://mp.weixin.qq.com/s/MGR36sC581WuQ-2WMnf5vA
深度压缩网络总结
https://mp.weixin.qq.com/s/1EnPWdJk8vGzxxdzAwPO4A
剪枝乱炖
https://mp.weixin.qq.com/s/UmtCq6WzIDQs3IAxhRFgNw
浅谈模型压缩之量化、剪枝、权重共享
https://mp.weixin.qq.com/s/H6OTkpdIgSdugDrEMBLybw
超越MobileNetV3的轻量级网络（GhostNet）
https://mp.weixin.qq.com/s/Vh5Y9Ru_hbN0CzM7_xGg6A
超越GhostNet！吊打MobileNetV3！MicroNet通过极低FLOPs实现图像识别
https://mp.weixin.qq.com/s/DLNyb-GtzmSYuXcn6VQz4Q
高效轻量级深度模型的研究和实践
https://mp.weixin.qq.com/s/3SWtxtV9b0dFpvqfTNlqIg
Slimmable Neural Networks
https://mp.weixin.qq.com/s/lc7IoOV6S2Uz5xi7cPQUqg
基于元学习和AutoML的模型压缩新方法
https://zhuanlan.zhihu.com/p/64400678
轻量卷积神经网络的设计
https://mp.weixin.qq.com/s/pJk84bNzRn7LZZfQfSjs5A
VarGFaceNet：地平线提出轻量级、有效可变组卷积的人脸识别网络
https://mp.weixin.qq.com/s/cYimAphdyFO_XqKfT2Hbeg
如何使用强化学习进行模型剪枝
https://mp.weixin.qq.com/s/SgELZgoHzIvbg2-jzJw6Tw
港科大、清华与旷视提出基于元学习的自动化神经网络通道剪枝网络
https://mp.weixin.qq.com/s/q5-91AAKwBiYzTMmqadEcg
RefineDetLite：腾讯提出轻量级高精度目标检测网络
https://mp.weixin.qq.com/s/Vh5Y9Ru_hbN0CzM7_xGg6A
MicroNet通过极低FLOPs实现图像识别
https://mp.weixin.qq.com/s/Ck_GDv1Xo-YMZcu-00gTOA
中星微夺冠国际人工智能算法竞赛，目标检测一步法精度速度双赢
https://mp.weixin.qq.com/s/qWJarPrjOrwxSX77xQ9rCw
面向卷积神经网络的卷积核冗余消除策略
https://mp.weixin.qq.com/s/4aVY9vUBX_Bxht953r00sA
在Keras中利用TensorNetwork加速神经网络
https://mp.weixin.qq.com/s/5NM9M1oY8bwsEqdBRVYpMg
网络规模更小、速度更快，这是谷歌提出的MorphNet
https://mp.weixin.qq.com/s/SC3ebx-C4N4H8B_R6K09cg
分段的人脸检测在移动端的应用
https://mp.weixin.qq.com/s/_C5AvD3YmRH2dmBjbEZFrQ
神经网络子网络压缩10倍，精确度保持不变
https://zhuanlan.zhihu.com/p/65348860
南邮提出实时语义分割的轻量级网络：LEDNET
https://zhuanlan.zhihu.com/p/67272163
百度提出关于网络压缩和加速的新剪枝算法
