Antkillerfarm Hacking V7.0

数学狂想曲(八)——莱洛三角形, 核弹当量问题, 随机过程

2018-02-05

函数连续性(续)

函数连续性和神经网络

理论上说,多层神经网络只要有足够的深度和宽度,就可以任意逼近任意连续函数。(严格的说,这里的连续函数必须是Borel可测函数。)

然而从网络训练的角度来说,只有Lipschitz连续的函数才一定会收敛,否则的话,可能会出现梯度爆炸的情况。

此外,不同函数的收敛速度也不一样:

  GD SGD
Lipschitz \(\frac{1}{\sqrt{k}}\) \(\frac{1}{\sqrt{k}}\)
+smoothness \(\frac{1}{k}\) \(\frac{1}{\sqrt{k}}\)
+strong convexity \(\frac{1}{k}\) \(\frac{1}{k}\)
+smoothness and strong convexity \(\exp^{-k}\) \(\exp^{-k}\)

参考

https://www.zhihu.com/question/32201415

函数连续和一致连续有什么区别?开区间上的连续函数不一定是一致连续的,为什么?

http://www.cnblogs.com/flywithyou/p/4135562.html

Lipschitz连续

https://www.zhihu.com/question/62554985

神经网络的上同调理论

http://tech.scichina.com:8082/sciE/CN/abstract/abstract404403.shtml

神经网络的本质逼近阶

http://www.doc88.com/p-2337088655000.html

神经网络的函数逼近理论

https://zhuanlan.zhihu.com/p/25590725

神经网络为什么能够无限逼近任意连续函数?

https://max.book118.com/html/2015/0401/14126427.shtm

浅谈Borel可测函数及其性质

https://mp.weixin.qq.com/s/jrNIhSlTiXsO2sGWmzcFfg

Michael I. Jordan最新清华授课笔记!

https://mp.weixin.qq.com/s/hDRLyOFpLUSW6ZDamwPiAg

相较神经网络,大名鼎鼎的傅里叶变换,为何没有一统函数逼近器?

莱洛三角形

定宽曲线(Curve of constant width),或称恒宽曲线,定义:平面上一凸形封闭曲线,不论如何转动,其宽度永远不变,则称之定宽曲线或恒宽曲线。这里所称的“宽度”是指平行线“夹住”某封闭曲线时,平行线间的距离,所谓”夹住”是指每个平行线与凸形封闭曲线相交至少一点且与凸形封闭曲线围起来的内部区域(interior)不相交。

或者可以说,将一个闭合曲线放在两条平行线中间,使之与这两平行线相切,则可以做到:无论这个闭合曲线如何运动,只要它仍与原平行线中的一条直线相切,就必与另一条直线线相切,那么此闭合曲线为定宽曲线。

上图是定宽曲线的一个直观的解释。平板下方的两个轮子转动的过程中,平板和桌面的距离保持不变。

这两个轮子一个是圆形,另一个就是本篇的主角——莱洛三角形(Reuleaux triangle)。

Franz Reuleaux,1829~1905,德国人。这个人可谓是全才。
在教育界,当过ETH和柏林工业大学的教授和校长,当然了那个时代这两所学校还不叫现在的名字。
在工业界,他发明了300多种机械模型,被誉为动力学(kinematics)之父。 在政界,他是1876年世界工业博览会德国代表团的主席,参与创立了德国的专利体系。

上图是Reuleaux triangle的尺规做图方法。

Reuleaux triangle是“除了圆形以外,还有什么形状的下水道盖不会掉入下水道?”这个问题的一个答案。这也是所有定宽曲线的特性。但Reuleaux triangle的特殊之处在于:它是定宽曲线所能构成的面积最小的图形。因此它做的井盖非常省铁。

上图展示了零件上的方孔是如何钻出来的。类似的还有:

后者叫做delta curves,不过它并不是个定宽曲线。

动力学是一门研究机械以及组成机械的各个部件之间的运动关系的科学,被广泛应用于机械设计领域。比如:

上图是一个没有活塞的发动机气缸,转子的形状就是类Reuleaux triangle的。

这里由于汽缸不是方形的,因此只是一个类Reuleaux triangle。

当然,Reuleaux triangle也有它的问题:

Reuleaux triangle形状的轮子,在上面铺板子跑,当然毫无问题。但如果安装车轴的话,那就蛋碎了…

所以,又有了下面这样的逆问题:

如何让方轮车平稳地行驶呢?只要让波浪轨道符合一段一段的悬链线方程。

参考:

https://en.wikipedia.org/wiki/Curve_of_constant_width

https://en.wikipedia.org/wiki/Reuleaux_triangle

https://en.wikipedia.org/wiki/Reuleaux_tetrahedron

http://www.cnblogs.com/hxsyl/archive/2012/07/05/2578448.html

莱洛三角形和定宽曲线

http://twistedsifter.com/2012/11/animated-gifs-that-explain-how-things-work/

20 Animated Gifs that Explain How Things Work

https://mp.weixin.qq.com/s/uUUhQ6tJMrn3J5Ko2u1Hiw

三角形中惊现叛徒!自己胖的像个球,却能成就世界上最快的赛车引擎……

https://mp.weixin.qq.com/s/463KqrYA968HjaBBlsdmow

小伙打造一辆奇葩自行车,走路上百分百的回头率

hinged dissections

Henry Ernest Dudeney,1857~1930,英国上世纪最知名的数学科普作家。

核弹当量问题

核弹爆炸由于是个复杂的过程,因此就有了爆炸火球半径、辐射半径、冲击波半径以及热辐射半径等不同的威力评价标准。

具体的介绍可参见:

https://www.zhihu.com/question/20134458

一颗核弹的破坏性有多大?

这里给出几组数据:

名称 当量 火球半径 冲击波半径
1945年胖子 20kt 200m 1.91km
1966年B61 340kt 630m 4.91km
1986年W87 300kt 600m 4.71km

“另外再帮你算算哦,把B61的34万和胖子的2万都开根号,两者比值是4.11,然而,胖子的火球半径200米乘4.1貌似是820米,怎么B61才630米呢?5psi的冲击波半径1.91千米乘4.1貌似是7.83千米哦,怎么B61才4.91呢?不是说好了技术进步威力更大的吗”

上面是贴吧某博主用以佐证自己观点的论据。然而,这显然错误的。

冲击波是空气被压缩导致的。而空气可以看做麦克思韦子,它的压力是由单位体积内的粒子能量决定的。因此,如果当量E可以产生R半径的空气压缩球的话,要产生2R的压缩球,势必需要将E提升8倍才行。

而火球半径就要麻烦一些了。

一方面,辐射的光子是玻色子,它不占空间,能量可叠加,且不改变传播方向。从点光源的波动模型可以知道,波前能量如果没有衰减的话,R球面的能量和2R球面的能量相等,但2R球面的面积是前者的4倍,因此如果要维持能量密度的话,E提升4倍即可。

另一方面,辐射源需要维持一定的温度才能释放可见光,而温度也就是粒子平均动能,正如上面冲击波半径的推导,E和R的立方成正比。

所以,火球半径中E和R的关系,显然在2和3之间。实际上,它的理论值就是2.5,其推导过程如下:

http://www.applet-magic.com/fireball.htm

The Expansion of the Fireball of an Explosion

推导主要用到了物理学的等式两边量纲齐次的原则,并不是很复杂。

实测值2.46和理论值符合的非常好。

这里的推导和热力学统计其实没多大关系,算是本人学习玻尔兹曼分布的副产品吧。

以下来几个实际爆炸的例子:

https://mp.weixin.qq.com/s/VOeBV4gufdeV1FQ1ol2whA

爆炸的能量(当量)有多大?


1947年4月16日,美国得克萨斯州得克萨斯城一艘停泊在加尔维斯敦湾内的法国货轮起火,致使船上运载的约2300吨硝酸铵爆炸,进而引发附近船只与储油设施爆炸。这也是人类历史上最大的一次意外非核(工业)爆炸!

https://www.zhihu.com/question/412103180

黎巴嫩首都发生巨大爆炸,或由存放的2700吨硝酸铵引起,目前情况如何?

https://mp.weixin.qq.com/s/V5gymAXJBMmN0Nqbwte2hQ

黎巴嫩港口大爆炸到底有多厉害?


原子弹称为“一相弹”,只有铀235,氢弹“双相弹”,核裂变加核聚变,威力更大,三相弹就是氢弹外面再包一层铀238,这玩意便宜,在氢弹爆炸产生的极端环境下可以裂变,还产生大量核污染。

https://futureoflife.org/background/us-nuclear-targets/

美国核弹目标清单(1959年)

https://nuclearsecrecy.com/nukemap/

一个核弹效果的评估网站

https://nuclearsecrecy.com/missilemap/

上述网站还有一个评估导弹的网页

https://www.zhihu.com/question/36188584

“大伊万”到底有多强?

https://baijiahao.baidu.com/s?id=1672436291069334638

纳粹德国为什么没有造出原子弹?就因为这个醉汉(醉汉回家问题)

随机过程

随机变量序列的收敛性

弱收敛:\(F_n(x)\xrightarrow{W}F(x)\)

依分布收敛:\(X_n\xrightarrow{L}X\)

依概率收敛:\(X_n\xrightarrow{P}X\)

r阶收敛:\(X_n\xrightarrow{r}X\)

几乎处处收敛(almost everywhere convergent):\(X_n\xrightarrow{a.e.}X\) or \(X_n\xrightarrow{a.s.}X\)

一致收敛(uniform convergence):\(X_n\xrightarrow{u.c.}X\)

以上概念实际上都是测度论的内容。具体到这里,弱收敛针对分布函数F,而其他收敛针对随机变量X。

收敛严格性:

\[X_n\xrightarrow{P}X \supseteq X_n\xrightarrow{L}X\] \[X_n\xrightarrow{r}X \supseteq X_n\xrightarrow{P}X\] \[X_n\xrightarrow{a.s.}X \supseteq X_n\xrightarrow{P}X\]

大数定律:

依概率收敛->弱大数定律

几乎处处收敛->强大数定律

随机过程常用公式或符号

名称 公式或符号
期望 \(EX=\int_{-\infty}^{+\infty}x\mathrm{d}F(x)\),若存在密度函数则\(EX=\int_{-\infty}^{+\infty}xf(x)\mathrm{d}x\)
方差 \(DX=Var(X)=E(X-EX)^2\)
协方差 \(Cov(X,Y)=E\{\overline{[X-E(X)]}[Y-E(Y)]\}\)
相关系数 \(\rho_{XY}=\frac{Cov(X,Y)}{\sqrt{D(X)}\sqrt{D(Y)}}\)
协方差矩阵 \(\left[\begin{array}{ccc} Cov(X_1,X_1)&Cov(X_1,X_2)&\cdots&Cov(X_1,X_n)\\Cov(X_2,X_1)&Cov(X_2,X_2)&\cdots&Cov(X_2,X_n)\\ \vdots&\vdots&&\vdots \\Cov(X_n,X_1)&Cov(X_n,X_2)&\cdots&Cov(X_n,X_n)\end{array}\right]\)
相关函数 \(R(X,Y)=E[\overline{X}Y]\)
均方极限 \({l.i.m}_{n \to +\infty}X\)

https://mp.weixin.qq.com/s/46NrpIako2lJ2ZitAQs8Sw

划重点!通俗解释协方差与相关系数

http://pinkyjie.com/2010/08/31/covariance/

浅谈协方差矩阵

Fork me on GitHub