Antkillerfarm Hacking V8.0

DL acceleration » 深度加速(七)——模型压缩与加速进阶(2)

2024-03-25 :: 4812 Words

模型压缩与加速进阶

https://mp.weixin.qq.com/s/p_qdKcQwQ8y_JUw3gQUEnA

谷歌大脑用强化学习为移动设备量身定做最好最快的CNN模型

https://mp.weixin.qq.com/s/OyEIcS5o6kWUu2UzuWZi3g

这么Deep且又轻量的Network,实时目标检测

https://mp.weixin.qq.com/s/8NDOf_8qxMMpcuXIZGJCGg

Google又发大招:高效实时实现视频目标检测

https://mp.weixin.qq.com/s/IxVMMu_7UL5zFsDCcYfzYA

AutoML自动模型压缩再升级,MIT韩松团队利用强化学习全面超越手工调参

https://mp.weixin.qq.com/s/BMsvhXytSy2nWIsGOSOSBQ

自动生成高效DNN,适用于边缘设备的生成合成工具FermiNets

https://mp.weixin.qq.com/s/nEMvoiqImd0RxrskIH7c9A

仅17KB、一万个权重的微型风格迁移网络!

https://mp.weixin.qq.com/s/pc8fJx5StxnX9it2AVU5NA

基于手机系统的实时目标检测

https://mp.weixin.qq.com/s/6wzmyhIvUVeAN4Xjfhb1Yw

论文解读:Channel pruning for Accelerating Very Deep Neural Networks

https://mp.weixin.qq.com/s/-X7NYTzOzljzOaQL7_jOkw

惊呆了!速度高达15000fps的人脸检测算法!

https://mp.weixin.qq.com/s/Faej1LKqurtwEIreUVJ0cw

普林斯顿新算法自动生成高性能神经网络,同时超高效压缩

https://mp.weixin.qq.com/s/uK-HasmiavM3jv6hNRY11A

深度梯度压缩:降低分布式训练的通信带宽

https://mp.weixin.qq.com/s/MDbbGzDOGHk5TBgbu-oA

中大商汤等提出深度网络加速新方法,具有强大兼容能力

https://mp.weixin.qq.com/s/gbOmpP7XO1Hz_ld4iSEsrw

三星提出移动端神经网络模型加速框架DeepRebirth

https://mp.weixin.qq.com/s/rTFLiZ7DCo6vzD5O64UnMQ

阿里提出新神经网络算法,压缩掉最后一个比特

https://mp.weixin.qq.com/s/m9I5TM9uJcgZvMusO667OA

5MB的神经网络也高效,Facebook新压缩算法造福嵌入式设备

https://mp.weixin.qq.com/s/FFs0-ROvbXSAIOspW_rMbw

超越MobileNetV3!谷歌大脑提出MixNet轻量级网络

https://mp.weixin.qq.com/s/uXbLb5ITHOU0dZRSWNobVg

算力限制场景下的目标检测实战浅谈

https://mp.weixin.qq.com/s/DoeoPGnS88HQmxagKJWLlg

小米开源FALSR算法:快速精确轻量级的超分辨率模型

https://mp.weixin.qq.com/s/wT39oUWfrQK-dg7hGXRynQ

实时单人姿态估计,在自己手机上就能实现

https://mp.weixin.qq.com/s/RVsXUnAJ2f0Cby7BPaWifA

人物属性模型移动端实验记录

https://mp.weixin.qq.com/s/yCcK6UJqm850HON7xU3R6g

模型压缩重要方向-动态模型,如何对其长期深入

https://zhuanlan.zhihu.com/p/93020471

轻量型网络:IdleBlock

https://mp.weixin.qq.com/s/AjuTXFmxHYdUUqodSpP_4w

10倍加速!爱奇艺超分辨模型加速实践

https://mp.weixin.qq.com/s/rzv8VCAxBQi0HsUcnLqqUA

处理移动端传感器时序数据的深度学习框架:DeepSense

https://mp.weixin.qq.com/s/UYk3YQmFW7-44RUojUqfGg

上交大ICCV:精度保证下的新型深度网络压缩框架

https://mp.weixin.qq.com/s/ZuEi32ZBSjruvtyUimBgxQ

揭秘支付宝中的深度学习引擎:xNN

https://mp.weixin.qq.com/s/0KlnQ8UUxpyhBRdeo0EOAA

用于网络压缩的滤波器级别剪枝算法ThiNet

https://mp.weixin.qq.com/s/FvR6loJ8KUxm7qwclestcQ

专门为卷积神经网络设计的训练方法:RePr

https://mp.weixin.qq.com/s/67GSnZnJySFrCESvmwhO9A

论文解读Channel pruning for Accelerating Very Deep Neural Networks

https://mp.weixin.qq.com/s/Lkxc_9sbRY157sMWaD5c7g

视频分割在移动端的算法进展综述

https://mp.weixin.qq.com/s/ie2O5BPT-QxTRhK3S0Oa0Q

剪枝需有的放矢,快手&罗切斯特大学提出基于能耗建模的模型压缩

苏俄笑话+

一位苏联工程师申请移民美国。

移民局官员面谈时问他:“同志,你对国内生活质量还满意吧?”

“满意。”

“那你对工作环境和生产计划满意吧?”

“满意。”

官员问:“那你为什么想要移民呢?”

工程师答道:“因为,在美国我可以不满意。”


天堂是一个你随便骂它地狱的地方。

地狱是一个你只能赞美它是天堂的地方。


一个乌克兰人看到国家陷入火海,异常痛心,于是穿越到1952年,把刚出生的普京噶了。

他兴冲冲地穿越回2022年2月,结果发现,俄罗斯总统泽连斯基宣布实施特别军事行动……


有德国人的地方就有啤酒,有韩国人的地方就有泡菜,有中国人的地方就有组织有预谋。


巴菲特问股票之神:神啊,今年我能赚多少?

股票之神说:你今年至少能赚30%。

巴菲特大喜,问:那川普呢?

股神说:很久没人用这个名字称呼我了。


斯大林、叶利钦和普京一起下了地狱,发现地狱已经被纳粹占领,希特勒要求他们每个人说出一项对法西斯主义的贡献,不然就把他们扔进油锅里炸到永远。

斯大林想了想:“我和你签过互不侵犯条约。”希特勒点点头,放过了他。

叶利钦想了想:“我助长了俄罗斯境内的法西斯势力。”希特勒点点头,放过了他。

轮到了普京,希特勒一脸嘲讽的问:“你不是反法西斯战士吗?你对我们有什么贡献?”

普京不慌不忙的说:“每一处我要侵略的土地都会有纳粹凭空冒出来,每一个反抗我侵略的战士都是法西斯分子,周围一圈的邻居都被我打成了法西斯国家。”


顾客到银行存一百卢布,担心存款安全。银行职员告诉他银行会保证存款安全。

顾客问万一银行倒闭呢,职员告诉他中央银行会担保。

顾客又问那中央银行也倒闭了呢?职员回应苏联政府会担保。

顾客:万一苏联解体了呢?银行职员爆发了:要真有苏联解体这种大好事,你连一百卢布都会不舍得么?


每天早晨,昂纳克站在阳台上对太阳招手:“亲爱的太阳,早上好!”,于是太阳回复道:“早上好啊,亲爱的昂纳克!”。

中午的昂纳克又去阳台边问候太阳:“亲爱的太阳,中午好!”,于是太阳又回复:“中午好啊,亲爱的昂纳克!”

黄昏时,昂纳克又一次去阳台上问候太阳“亲爱的太阳,晚上好!”。太阳回答道:“QNMLGB,老子现在在西德!”

两弹一星=

当时中国方面对工业体系没有概念,前期设计的项目规划被苏方批评的一塌糊涂,苏联方面的专家最后只能一个一个问:你要这个项目想干啥?目的是什么?配套产业有吗?放置在哪里合适?后来包括第一个五年计划都是苏联方面帮助设计的,可以说156工程的最大功绩是手把手的教会了中国什么是产业链,什么叫配套工程,怎么去规划一个生产基地。苏联同志算是给中国人领进了门,让中国人掌握了一个基本的现代工业体系配套的知识,这是靠自学学不会的。


张为申1931年毕业于清华大学化学系,1946年赴美深造,1951年放弃国外优厚的待遇回国参加建设。先后完成青霉素进口原料的代用品研究和国产土霉素、链霉素、红霉素的研制。

1957年,国产金霉素通过了临床试验,在上海第三制药厂正式投产,我国成为全世界第四个能够生产金霉素的国家。次年,沈善炯参与指导的华北制药厂全线投产,成为亚洲最大的抗生素生产基地,结束了我国青霉素、链霉素依赖进口的历史。

1957年,汤飞凡鉴定、分离和培养了沙眼衣原体细菌,成为第一位成功确定沙眼病因的科学家。

https://mp.weixin.qq.com/s/s-Y4tZde0XmGGAkS06YJkw

百岁院士沈善炯逝世,曾攻克金霉素打破美国垄断

https://mp.weixin.qq.com/s/GRWkN8nZ3Q4A90iBiH18Xw

用棉籽饼代替玉蜀黍:中国战时青霉素研制历程(童村和汤飞凡)


1979年,大众集团管理层找到当时还是一个中层工程师的李文波,希望他为公司在中国大陆的中文译名给些建议,因为他是整个集团唯一会说中文的员工。

当时大众在台湾和香港已有销售,使用的名字是Volkswagen的音译“福斯”。李文波认为“斯”听起来像“死”,不吉利,一开始想把“福斯”略作改动改为“福仕”。但“福仕”与在中国广为人知的“福特”还是太接近。李文波既不希望中国大陆的用户误以为Volkswagen跟福特有什么联系,也意识到“仕”有“绅士”的含义,意识形态上不妥,也不符合大众的产品定位。

正巧李文波在香港出版的中文版《读者文摘》上读到过他们对于大众甲壳虫的译名“国民汽车”。然而由于显而易见的原因,“国民汽车”这个名字在大陆不可能行得通。如果走意译的路线,Volk对应的应该是“人民”。但李文波当时已经回过南京探亲数次,明白“人民”这个词在中国大陆与政权有着紧密联系,比如人民政府、人民银行、人民日报等等。他需要一个“朗朗上口且独特,意涵优雅又没有政治色彩,几十年后也不会过时的名字”。于是他想到了“大众汽车”。

这个译名得到了饶斌等中方谈判团队成员的高度认可,就此成为了Volkswagen在中国的官方译名。更巧的是“大众”的“众”字简体字形状又类似于VW标,形神兼备。

https://www.zhihu.com/answer/1926042553842668053

“Volkswagen”为什么翻译成“大众”?


这种物物交换的前提,是双方能各取所需,因此当一方拿出的物资不是对方所需求的,则经常要辗转腾挪数次才能完成交易。比如江苏省武进县化轻公司曾经想用电石到海南岛协作橡胶,但对方需要的是硬脂酸,不要电石。这个单位只好拿电石到处串换,先是用电石从内蒙换到生铁,再用生铁到上海换来汽车,然后又用汽车去武汉换来硬脂酸,最后才用硬脂酸从海南岛换回了橡胶。

这种现象的广泛存在,是因为中国计划经济水平远逊色于苏联。同时期的苏联虽然也是黑市猖獗,但交易的多是生活消费品和农产品,鲜有大规模交易生产物资的现象。但这种“落后”倒也并非坏事,由于中国始终保有着市场交易的行为,这使得中国能更顺利地从计划经济转向市场经济,而不至于发生像俄罗斯这样的经济灾难。

https://www.zhihu.com/question/1921304020225619753

我国计划经济时期真的一点市场都没有吗?只是分配?

Fork me on GitHub