DL » 深度学习（四十一）——迁移学习
2018-06-09 :: 7046 Words迁移学习
Rethinking ImageNet Pre-training
何恺明，RBG，Piotr Dollár的新作表明：ImageNet Pre-training不能提升最终精度，但可以加快收敛速度。
参考：
https://mp.weixin.qq.com/s/Ut_of4Xb8c0beACShKOWlQ
何恺明“终结”ImageNet预训练时代：从0开始训练神经网络，效果比肩COCO冠军
Unsupervised Domain Adaptation by Backpropagation
Federated Transfer Learning
https://mp.weixin.qq.com/s/Lzs5qaZpgcnQP_9MwgWuKA
联邦学习FL进展与开放问题万字综述论文，58位学者25家机构联合出品，105页pdf438篇文献
https://mp.weixin.qq.com/s/l-Ae8-K78AYITSn8_0LIfg
破解数据孤岛壁垒，三篇论文详细解读联邦学习
https://mp.weixin.qq.com/s/8f8-YdQ5-wCNDV6tKjzVNQ
玩转联邦学习，摆脱数据枷锁
https://mp.weixin.qq.com/s/gGqpmzJKvgrfqsqsSeJ2xg
第四范式等机构提出隐私保护新算法，医疗敏感数据也能合理学
https://mp.weixin.qq.com/s/tv6-oTuPX2mCBwo5IgOwNg
如何通过开源平台解决人工智能的最大“痛点”
https://mp.weixin.qq.com/s/sZOlUiqOjNjt7q17B_5QnQ
新一代联邦学习技术及应用实战
https://mp.weixin.qq.com/s/f9Wskw0DFwYXD8TEMvL9Tw
人工智能新技术：联邦学习的前世今生
https://mp.weixin.qq.com/s/bwguSX8rfGCHti0qOlyz4g
Federated Learning: 架构
参考
龙明盛，清华本科（2008）+博士（2014），迁移学习的最早提出者之一。清华大学副教授，博导。
个人主页：
http://ise.thss.tsinghua.edu.cn/~mlong/
https://mp.weixin.qq.com/s/HmkTkv7QT08lGtJsHD7EvQ
迁移学习（Transfer Learning）技术概述
https://zhuanlan.zhihu.com/wjdml
《小王爱迁移》系列blog
https://mp.weixin.qq.com/s/HkuIJUw99DhJkUSuCYdfjg
《迁移学习简明手册》pdf分享
https://www.zhihu.com/question/41979241
什么是迁移学习(Transfer Learning)？这个领域历史发展前景如何？
https://mp.weixin.qq.com/s/ThwsfHME_2csqTlKuG5heg
综述论文：四大类深度迁移学习
https://mp.weixin.qq.com/s/l-a8W9CW9aUtYegJRxOVbA
龙明盛：迁移学习理论与算法，59页ppt
https://mp.weixin.qq.com/s/01WLhFsni1WRTYPgqoV0Ww
深度学习之迁移学习介绍与使用
https://mp.weixin.qq.com/s/ywwlpTNOjXgUOglnn56NIw
深度迁移学习方法的基本思路
https://mp.weixin.qq.com/s/yuuvX85M5HfWDbYZwycL4A
迁移学习全面指南：概念、应用、优势、挑战
https://mp.weixin.qq.com/s/XPAVUD33Z1do2hz2rGrIIQ
各细分学习领域调研(A Survey for Learning Fields)
https://mp.weixin.qq.com/s/7cvErbQRnTAKjTz67dNRDw
Python迁移学习实战书籍和代码《Hands-On Transfer Learning with Python》
https://github.com/chichilicious/awesome-zero-shot-learning
Zero-Shot Learning相关资源大列表
https://mp.weixin.qq.com/s/ebY7mq8PceHJy2t-wQBuGg
中科院发布最新迁移学习综述论文，带你全面了解40种迁移学习方法
https://www.zhihu.com/question/50996014
什么是One/zero-shot learning？
https://mp.weixin.qq.com/s/SZlFgnUBL0T6yNa-i_WLvg
领域适应性Domain Adaptation、One-shot/zero-shot Learning概述
https://zhuanlan.zhihu.com/p/34656727
零次学习（Zero-Shot Learning）入门
https://mp.weixin.qq.com/s/epsXg46st-37FjwIjPUOqg
124页ppt，Learning with Small Data，宾夕法尼亚州立大学
https://mp.weixin.qq.com/s/FqS6RsL8Ewp2m_qr1hpQ1w
AAAI2020最新“迁移表示学习最新进展”247页PPT，宾夕法尼亚大学
https://mp.weixin.qq.com/s/sAf2fLLnKHOs433pV_6bSQ
One-shot Learning：孪生网络少样本精准分类
https://mp.weixin.qq.com/s/J8ZmIVKd-4X3hMGGIJWoDQ
一文看懂迁移学习：从基础概念到技术研究！
https://mp.weixin.qq.com/s/Kb1KggOE3gxy7Edn48dlMg
自然语言处理的迁移学习–来自DeepMind、AllenNLP等，附238页Slides&代码
https://mp.weixin.qq.com/s/uVby0GpWlmAlqRlbvysSyQ
计算机视觉中深度迁移学习，165页PPT
https://zhuanlan.zhihu.com/p/30242073
人脸识别中的迁移学习简介（Transfer Learning）
https://mp.weixin.qq.com/s/rVYWV-LsbmA4QhC6207SWA
14篇论文为你呈现“迁移学习”研究全貌
https://mp.weixin.qq.com/s/06FWeGysBjU9wTMUx_eY0Q
一文看懂自然语言处理中迁移学习的现状
https://zhuanlan.zhihu.com/p/258562899
小样本学习——概念、原理与方法简介（Few-shot learning）
https://mp.weixin.qq.com/s/3AhiaNilRyTX_f7F306yng
主动学习（Active Learning）-少标签数据学习
https://mp.weixin.qq.com/s/Rj55EoopzlR71DZ5XrvH_w
八千字长文深度解读，迁移学习在强化学习中的应用及最新进展
https://mp.weixin.qq.com/s/G-Z6zyYSV95–x0PjQVMiw
自然语言处理中的迁移学习(上)
https://mp.weixin.qq.com/s/WlpmZmmqsepwbZJqxXrUhw
自然语言处理中的迁移学习(下)
https://mp.weixin.qq.com/s/NQED6DdCJNpNyzURUOZPnA
迁移学习：机器学习的下一个前沿阵地！
http://chenrudan.github.io/blog/2017/12/15/domainadaptation1.html
迁移学习之Domain Adaptation
https://mp.weixin.qq.com/s/3H1u2JJ0JwfjwDKs5imcxQ
零资源机器翻译的最新进展
https://mp.weixin.qq.com/s/2NLPma-wITAUKVnSRrHX9w
小样本学习年度进展
https://mp.weixin.qq.com/s/pDK4qBWArtETARE1fjbbmA
迁移学习在深度学习中的应用
https://mp.weixin.qq.com/s/mB1AEFVdM_s1rk0irST4Ww
迁移学习在图像分类中的简单应用策略
https://mp.weixin.qq.com/s/PDyp_GO0ovWV0KoGTwp_gQ
简述迁移学习在深度学习中的应用
https://zhuanlan.zhihu.com/p/43681859
迁移学习在自然语言处理中的应用之通用语言建模
https://mp.weixin.qq.com/s/Z6RyhsZfn3Fs-gfpS0_7HQ
预训练模型迁移学习
https://mp.weixin.qq.com/s/sVukyFF18IEjUOnoj09eUQ
39页《迁移学习自然语言生成》
https://mp.weixin.qq.com/s/0Zcrwi3WROzm19ApDZINMQ
Ruder博士答辩41页PPT，面向自然语言处理的神经网络迁移学习
https://mp.weixin.qq.com/s/_t9pV93uaY8gpzHZ6XgiAw
面向自然语言处理的神经网络迁移学习，NLP网红Ruder博士329页论文
https://mp.weixin.qq.com/s/nIV7n8o7t2F3j0XFr9v-vg
迁移自适应学习最新综述
https://mp.weixin.qq.com/s/b6rH-eepKDSHLnixDVvKUQ
新加坡南洋理工最新37页《零样本学习综述》论文
https://mp.weixin.qq.com/s/mQU8GX4Yhkbs_bCuBJRllQ
大数据时代小样本如何学习？看这篇最新《小样本学习方法综述》论文
https://mp.weixin.qq.com/s/-73CC3JqnM7wxEqIWCejWQ
小样本学习（Few-shot Learning）综述
https://mp.weixin.qq.com/s/Kw5v9nKP0FbVDH8aO7LtcA
里昂大学Ying LU博士学位论文：图像分类中的迁移学习
https://mp.weixin.qq.com/s/TUwhd7ruF-156GDmInpA7w
《小样本学习(Few-shot learning)
https://zhuanlan.zhihu.com/p/146777068
标注样本少怎么办？“文本增强+半监督”方法总结
https://mp.weixin.qq.com/s/H0CAeFR7VymwxWbE330kDg
浅谈文本增强技术
https://mp.weixin.qq.com/s/FHmijTVqQ26osp6PzZsbvQ
付彦伟：零样本、小样本以及开集条件下的社交媒体分析
https://mp.weixin.qq.com/s/109hJaWsL4mcr9dc9vdDMg
结合主动学习与迁移学习：让医学图像标注工作量减少一半
https://mp.weixin.qq.com/s/A7PAu6-B1JRUfGmb2Fm_vA
中国科学院大学Oral论文：使用鉴别性特征实现零样本识别
https://mp.weixin.qq.com/s/P4kGtXZRW_fMbKbkGIJEfA
迁移学习比赛：OpenAI喊你重温“音速小子索尼克”
https://mp.weixin.qq.com/s/ovSltv5Ct8AsPcxCFsYwYw
用于部分迁移学习的加权对抗网络
https://mp.weixin.qq.com/s/5DkqsOkTo9l9QtNp16MGOg
北京大学计算机研究所提出深度跨媒体知识迁移方法
https://mp.weixin.qq.com/s/ZvBzU_PSTCTS4hWrkJ2ZFg
zero-shot视觉模仿系统GSP，仅观察演示就学会执行任务
https://mp.weixin.qq.com/s/kTiQdoCI-mk8c-m0uL5BkQ
如何实现少样本学习？先让神经网络get视觉比较能力
https://mp.weixin.qq.com/s/i_znaQX0IFJD1ttmVbtcZQ
阿里提出新零样本学习方法，有效解决偏置问题
https://github.com/vipstone/faceai
FaceAI
https://mp.weixin.qq.com/s/v6denCbxx6q530yAg_bq2A
使用Transformer与无监督学习，OpenAI提出可迁移至多种NLP任务的通用模型
https://mp.weixin.qq.com/s/tfScYQYeCz0gEkHTnOEkIg
鸡尾酒网络DCTN：源分布结合律引导的迁移学习框架
https://mp.weixin.qq.com/s/Fodqc5cw1TISFJwtrstg9Q
CMU、NYU与FAIR共同提出GLoMo：迁移学习新范式
https://mp.weixin.qq.com/s/HAc1R74Yj2nwiohuRy5emA
任务分类法：解构任务迁移学习
https://mp.weixin.qq.com/s/N1ciRHJAPMzgjpZhPVoHXw
现实版柯南“蝴蝶结变声器”：谷歌发布从声纹识别到多重声线语音合成的迁移学习
https://mp.weixin.qq.com/s/jhWt7ZlBVvmyGpKPeoHZug
更优的ImageNet模型可迁移性更强？谷歌大脑论文给出验证
https://mp.weixin.qq.com/s/irR_LjSpUN41Vpo7God_ig
深度网络自我学习，最终实现更少样本的学习
https://mp.weixin.qq.com/s/bh1E8lOs0k4AecrPwEicxg
如何高效提炼有效信息？阿里武大创造了一种零样本文档过滤模型
https://mp.weixin.qq.com/s/gWxe90P9OdT-5pySYJfs0Q
Adaptation for Neural Machine Translation
场景：假设储备了大量新闻领域双语语料，少量科技领域双语语料（或者没有），科技领域单语语料（大量、少量或者没有）的大菜鸟翻译公司，接到一个科技领域的翻译项目。如何使用现有资源去尽可能的把科技领域的翻译做好。
问题：这里的科技领域就是in-domain，新闻领域是out-domain。如何使用数量有限的in-domain parallel corpus和相对丰富的out-domain parallel corpus来更好地提升in-domain translation performance。
https://mp.weixin.qq.com/s/xAWW8aqrj5Qf1KaGGZLqfQ
只有100个标记数据，如何精确分类400万用户评论？
https://mp.weixin.qq.com/s/EWMXDH7Bx0aQaFsGkZaIbA
OpenAI概念学习新模型：学会概念仅需5次示范，实现跨领域概念迁移
https://mp.weixin.qq.com/s/83oOI0oJ_QN-o1LZ439UVQ
自然语言处理中的深度迁移学习——文本预训练
https://mp.weixin.qq.com/s/MAlH3EYAg88IROsV1klKlA
结构化数据的迁移学习：嫁接学习
https://mp.weixin.qq.com/s/C1qTuJ-kJxI5o_yEMpiUAA
ICLR2019少样本学习新思路：利用转导(Transductive)和标签传播
https://zhuanlan.zhihu.com/p/53359505
Deep Domain Adaptation论文集(一)：基于label迁移知识
https://zhuanlan.zhihu.com/p/55758680
Deep Domain Adaptation论文集(二)：基于统计差异
https://zhuanlan.zhihu.com/p/56076381
Deep Domain Adaptation论文集(三)：基于深度网络结构差异&几何差异
https://zhuanlan.zhihu.com/p/57083034
Deep Domain Adaptation论文集(四)：基于生成对抗网络GAN
您的打赏，是对我的鼓励
