DL » 深度学习（三十八）——RNN进阶, 显著性检测, 计算机图形学
2018-03-20 :: 6727 WordsRNN进阶
IndRNN
https://mp.weixin.qq.com/s/cAqpclkkeVrTiifz07HC1g
新型循环神经网络IndRNN：可构建更长更深的RNN
https://mp.weixin.qq.com/s/7-K-nZTijoYCaprRNYXxFg
新型RNN：将层内神经元相互独立以提高长程记忆
ODE
https://mp.weixin.qq.com/s/4CrPGKnR7RLN-2ROG5X4uw
ODE网络：一场颠覆RNN的革命即将到来
https://mp.weixin.qq.com/s/0vju0Q_DcIWwdEo9EEE3iQ
NeurIPS18最佳论文NeuralODE，现在有了TensorFlow实现
https://mp.weixin.qq.com/s/i6VEYjbac4QP3s51meN1VA
Hinton向量学院推出神经ODE：超越ResNet 4大性能优势
https://mp.weixin.qq.com/s/ZEIsyV-0aTvYn6K8GyANPA
硬核NeruIPS 2018最佳论文，一个神经了的常微分方程
https://mp.weixin.qq.com/s/uAiRTeYkZKy9q3d9v3dR5A
神经微分方程–钢琴和小提琴
参考
https://mp.weixin.qq.com/s/0TLaC8ACXAFEK5aMNK9O-Q
简单循环单元SRU：像CNN一样快速训练RNN
https://zhuanlan.zhihu.com/p/27104240
CW-RNN收益率时间序列回归
https://mp.weixin.qq.com/s/SeR_zNZTu4t7kqB6ltNrmQ
从循环到卷积，探索序列建模的奥秘
https://mp.weixin.qq.com/s/_q69BV1r46S9X5wnLuFPSw
关于序列建模，是时候抛弃RNN和LSTM了
https://mp.weixin.qq.com/s/m5GRNp6qDfVfC0mkQ4m4Yw
神经语言模型如何利用上下文信息：长距离上下文的词序并不重要
https://mp.weixin.qq.com/s/kuoUnt2Vhz9NhfnNqMFAhQ
DeepMind提出关系RNN：构建关系推理模块，强化学习利器
https://mp.weixin.qq.com/s/wfOzCxe3L2t11VguYLGC9Q
上海交大搞出SRNN，比普通RNN也就快135倍
https://mp.weixin.qq.com/s/f0sv7c-H5o5L_wy2sUonUQ
CNN取代RNN？当序列建模不再需要循环网络
https://mp.weixin.qq.com/s/h3fF6Zvr1rSzSMpqdu8B0A
电子科大提出BT-RNN：替代全连接操作而大幅度提升LSTM效率
https://mp.weixin.qq.com/s/OgN4rVDKH5WABIaRY7CHog
如何让RNN神经元拥有基础通用的注意力能力
https://mp.weixin.qq.com/s/KBLCrupGIuPa5nVrxcS5WQ
新研究将GRU简化成单门架构，或更适用于语音识别
https://mp.weixin.qq.com/s/kQozftKd_n_kYIF7KKCc8g
短视频那么多，快手如何利用GRU实现各种炫酷的语音应用
https://mp.weixin.qq.com/s/xwuM2Vj8G7UyuEyzTyO13A
将CNN与RNN组合使用，天才还是错乱？
https://mp.weixin.qq.com/s/c7XkzjLH1n5EtqdQik618g
Dropout在RNN中的应用综述
https://mp.weixin.qq.com/s/K6LK47_GCTeZJPAW0-Xp4Q
多伦多大学提出可逆RNN：内存大降，性能不减！
https://mp.weixin.qq.com/s/lvaWx7J4HFTvYxy7-B9vYg
周志华等提出RNN可解释性方法，看看RNN内部都干了些什么
https://mp.weixin.qq.com/s/YbdiEHb8ld1pp1ehgBzTOQ
将未来信息作为正则项，Twin Networks加强RNN对长期依赖的建模能力
https://mp.weixin.qq.com/s/ty8RyPREo_EA7O8vA2pQuQ
AI编曲震撼人心，RNN生成流行音乐
https://mp.weixin.qq.com/s/vIL-bKHZK-6eXZYWxrc9vw
这种有序神经元，像你熟知的循环神经网络吗？
https://mp.weixin.qq.com/s/GGK9T0DeyIdD5ahHy5uvfg
LightRNN：存储和计算高效的RNN
https://mp.weixin.qq.com/s/JGZpKSF5HPCMCD061jwq9A
Bengio等人提出新型循环架构，大幅提升模型泛化性能
https://mp.weixin.qq.com/s/GN0m5nWuV6VDYsTk0XLoDA
pytorch中如何处理RNN输入变长序列padding
https://mp.weixin.qq.com/s/bts9mdIrGIjO8UCUxSV-xg
Transformer的潜在竞争对手QRNN论文解读，训练更快的RNN
显著性检测
视觉显著性检测(Visual Saliency Detection)指通过智能算法模拟人的视觉特点，提取图像中的显著区域(即人类感兴趣的区域)。
https://blog.csdn.net/dawnlooo
一个显著性检测的专栏
https://mp.weixin.qq.com/s/Mi62oqtXUT5If_Dj4KmVYA
计算机视觉如何知道你想看什么？个人显著性检测
https://mp.weixin.qq.com/s/47TcGoasB9E_Et2zwl3OCw
全局对比度的图像显著性检测算法
https://zhuanlan.zhihu.com/p/65307842
快、好、实现简单并且开源的显著性检测方法
https://mp.weixin.qq.com/s/tmp1HXU7cLerLr0DY9NluQ
杂乱环境下的显著性物体： 将显著性物体检测推向新高度
https://mp.weixin.qq.com/s/urgkUcu2ZWQMGPZdArWzYg
PoolNet：基于池化技术的显著性目标检测
https://zhuanlan.zhihu.com/p/71538356
BASNet，一种能关注边缘的显著性检测算法
https://mp.weixin.qq.com/s/ntSH2aS4YHqrLaTAfWFLsQ
可选择性与不变性：关注边界的显著性目标检测
https://mp.weixin.qq.com/s/0T1QhiT_20BrerNcTjKreQ
南开提出边缘引导的显著目标检测算法EGNet，刷新主流数据集所有评价指标
https://mp.weixin.qq.com/s/p4lHnte3FYu6XtD3PnSeKw
光场显著性检测研究综述
https://mp.weixin.qq.com/s/8QrNvb-1zmrTWo5zThpyvg
U²-Net：使用显著性物体检测来生成真实的铅笔肖像画
计算机图形学
教程
《Fundamentals Of Computer Graphics》，Steve Marschner著，中文常称为“虎书”。
《Real–time Rendering》，Tomas Akenine-Moller等著。
GPU精粹三部曲：
- GPU Gems 1 （2004）
- GPU Gems 2 （2005）
- GPU Gems 3 （2006）
- GPU Pro 1 （2010）
- GPU Pro 2 （2011）
- GPU Pro 3 （2012）
- GPU Pro 4 （2013）
- GPU Pro 5 （2014）
- GPU Pro 6 （2015）
- GPU Pro 7 （2016）
- GPU Zen （2017）
- GPU Zen 2 （2019）
GPU Gems列的主编是Randima Fernando。
GPU Pro和GPU Zen系列的主编是Wolfgang Engel。他还有如下系列作品：
- ShaderX 1 （2002）
- ShaderX 2 （2003）
- ShaderX 3 （2004）
- ShaderX 4 （2006）
- ShaderX 5 （2006）
- ShaderX 6 （2008）
- ShaderX 7 （2009）
历史
Ivan Edward Sutherland，1938年生。计算机图形学之父。图灵奖获得者（1988）。
https://zhuanlan.zhihu.com/p/121868664
科学，艺术，天才，一篇计算科学的史诗，一场兑现的资本盛宴
PBR
Physically Based Rendering: From Theory to Implemention
https://zhuanlan.zhihu.com/p/161950497
10分钟了解PBR流程-PBR基本原理和概念
https://mp.weixin.qq.com/s/h-vgHkzLjh9AAa6Z0lZqlg
基于物理渲染(PBR)的车漆技术
参考
实时(Realtime)光照：在运行时的每一帧进行光照计算。并且可以自由地修改物体和光源的位置和属性。
烘焙(Baked)光照：Editor提前在场景中进行光照计算，生成对应的光照数据，这个过程叫烘焙，后续在游戏运行时，不会再对该类型的光照进行计算，而是直接从光照贴图中获取数据。适用于场景中静态的光照和物体。
https://mp.weixin.qq.com/s/hI9Z3l2eVJxkPbL8zG5uGA
图形学基础，427页pdf
https://zhuanlan.zhihu.com/p/430541328
图形学基础篇
http://15462.courses.cs.cmu.edu/fall2020/courseinfo
Computer Graphics
https://www.tomlooman.com/stanford-cs193u/
Stanford CS193u: Video Game Development in C++ and Unreal Engine
https://mp.weixin.qq.com/s/oFcqOPQriTgWMvcUGXHlRQ
计算机图形学入门总结
https://www.zhihu.com/column/graphicon
一个图形学方面的专栏
https://github.com/KrisYu/computer-graphics-from-scratch-Notes
一个图形学方面的专栏
https://www.zhihu.com/column/c_1635772272538648576
现代图形引擎入门指南
https://zhuanlan.zhihu.com/p/32095589
在《硬影像》与罗登老师/导演聊渲染技术
https://blog.csdn.net/jaccen2012/article/details/80328043
跨平台渲染引擎简介
https://zhuanlan.zhihu.com/p/163305630
如何判断点在三角形内部
https://www.zhihu.com/column/c_1165601616035618816
一个图形学方面的专栏
https://mp.weixin.qq.com/s/MhGrLydVsbvkhZ5U820zTQ
哈佛小哥这个github仓库从零开始教你计算机图形学
https://mp.weixin.qq.com/s/7SurDN5gvLCEDbxe2gR58w
面向工程师的图像处理，438页pdf
https://www.zhihu.com/question/49812837
256字节3D程序是如何实现3D引擎的呢？
https://zhuanlan.zhihu.com/p/22337544
不只是噪音（Perlin噪音）
https://mp.weixin.qq.com/s/jq4B_4kUOZE8yN5y0u-5yg
万字长文！UCLA蒋陈凡夫12年自我回顾，图形学的终极浪漫
https://zhuanlan.zhihu.com/p/649971173
GPU渲染之路：从图形引擎到内核驱动(一、计算机图形系统概述)
https://zhuanlan.zhihu.com/p/650510512
GPU渲染之路：从图形引擎到内核驱动(二、跨平台引擎层)
https://zhuanlan.zhihu.com/p/651364842
GPU渲染之路：从图形引擎到内核驱动(三、用户态图形驱动层)
https://zhuanlan.zhihu.com/p/650597410
图形学八股
术语
Material Point Method（物质点法）
Taichi
Taichi是胡渊鸣开发的一套计算机图形库。它拥有一套特有的DSL，并可将之编译为能在不同backend硬件上运行程序。
胡渊鸣，清华本科（2017）+MIT博士（2021）。
官网：
https://taichi.graphics/
代码：
https://github.com/taichi-dev/taichi
胡渊鸣还开发了一个物理模拟方面的自动微分器——DiffTaichi：
https://github.com/yuanming-hu/difftaichi
一个卡门涡街的demo：
https://github.com/hietwll/LBM_Taichi
参考：
https://www.bilibili.com/video/BV1aL4y1a7pv
B站的太极图形课
https://zhuanlan.zhihu.com/p/97700605
99行代码的《冰雪奇缘》
https://mp.weixin.qq.com/s/zPvvf1VptQ1M7iVEcxN-AQ
计算机图形也能自动可微：MIT学神的微分太极框架开源
https://zhuanlan.zhihu.com/p/507362284
99行代码能干啥？造个体素小世界！
https://www.zhihu.com/question/535601383
Taichi和PyTorch有哪些相似和不同？
https://zhuanlan.zhihu.com/p/573894977
用Taichi实现GPU图像处理：从入门到入魔
https://zhuanlan.zhihu.com/p/612102573
Taichi NeRF（上）：不写CUDA也能开发、部署Instant NGP
https://zhuanlan.zhihu.com/p/613679756
Taichi NeRF (下): 关于3D AIGC的务实探讨
ZENO
https://mp.weixin.qq.com/s/6qtCwJpJ5zu65Wr15e08Lg
皮克斯华人CG老鸟深圳创业！低代码实现好莱坞大片特效
https://zhuanlan.zhihu.com/p/390717137
ZENO：一份不详细的使用说明
花边
胡渊鸣有多次开人都是在试用期的最后一天开的记录，开人之前几个月，先逼着榨干剩余价值，然后一脚踹，自己请客就是排队也要打票报销，实习生的差旅能不报尽量不报。。。
知道了这些，你就会觉得这样的pip对他来说太正常不过。更不用提什么请实习生吃火锅，自己先点土豆青菜，让实习生不好意思继续往下点菜，这样的挨屁馊德了。
https://www.zhihu.com/question/583806166
如何看待胡渊鸣太极图形团队新出绩效管理规则？
https://www.zhihu.com/question/676629193
如何评价张心欣开除zeno核心开发者小彭老师？
您的打赏，是对我的鼓励
