yunlongwang的个人博客分享 http://blog.sciencenet.cn/u/yunlongwang

博文

【科研笔记】一个关于收敛的证明和外尔不等式

已有 5621 次阅读 2014-5-2 09:57 |系统分类:科研笔记| 外尔不等式, 极限特性

最近我用到了一个挺妙的小定理,忍不住拿出来跟大家分享一下。说来也挺不好意思的,在熟悉线性代数的人看来,这可能就简单到不值得一提。不过我还是学生,脸皮厚,不怕被认为无知。那我就本着分享的精神接着写了啊。

 

我前段时间需要证明这样一个问题:有t个大小为NN对称的,正定的,实数方阵 $X_1, X_2, ..., X_t%uFF0C$ ,设他们的和为

$Z_t=\sum_{\tau=1}^t X_{\tau},$

那么当t趋于无穷的时候,方阵 $Z_t$  的逆矩阵 $(Z_t)^{-1}$ 中的任意元素是否都趋向于0呢?

 

直觉上想吧,要是每个 $X_t$ 都是一个大于零的实数(对应正定矩阵),那么如果序列 $X_t$ 的极限不是0,则从 $X_1$ 加和加到 $X_t$ 的值, $Z_t$ ,就会趋向于无穷大(发散级数)。那么 $Z_t$ 的倒数就会趋向于0

 

回到线性代数,在线性代数中有没有这样类似的结论呢?我搜了一下,还真有,叫Weyl's inequality。不好意思,有两个Weyl's inequality,一个数论的,一个线性代数的。咱们今天就讨论线性代数的这个。

 

说有M, H, P三个都是NN埃尔米特矩阵(对称矩阵的复数加强版),其中M有特征值如下(不要求正定),

$\mu_1 \ge \cdots \ge \mu_n\,$

H有特征值如下,

$\nu_1 \ge \cdots \ge \nu_n\,$

P有特征值如下

$\rho_1 \ge \cdots \ge \rho_n\,$

那么对任意 $i \,=\, 1,\dots ,n$ 下面这个不等式成立:

$\nu_i + \rho_n \le \mu_i \le \nu_i + \rho_1$

 

不好意思,楼主我不是学数学的,这个等号存在的条件我还不太清楚。但是我知道如果P是正定矩阵,那么就可以扔掉等号了。我们有,

$\mu_i > \nu_i \quad \forall i = 1,\dots,n.$

这个不等式才是我最想要的,因为我们现在有严格单调增的数列啦。这就是迈向无穷大的重要一步呀。

 

根据上式,可以看出 $Z_t$ 的每一个特征值都要大于 $Z_{t-1}$ 。在我的问题里面,我能证明 $X_t$ 的特征值不是趋于零(具体就不说了),也就是说当t区域无穷大的时候, $Z_t$ 的每一个特征值都会趋向于无穷。

 

换言之, $Z^{-1}_t$ 的每一个特征值都趋向于零,吼吼,根据 $Z^{-1}_t$ 的特征值分解,可以看出它的每一个元素都趋向于0。多说一句方便理解,因为特征向量可以归一化,不用担心特征向量变无穷。

 

证明过程基本上也就这样了。其实就是把一个看起来明显的事实用数学语言表达出来。

 

这个不等式有用呀,比如说我要分析某个估计器的极限性质Asymptotic property,就是在样本无限多的时候他能不能收敛到真值,那分析均方误差的时候可能要把一堆 $H^\top\Sigma^{-1}H$ 加在一起,您看这每一个 $H^\top\Sigma^{-1}H$ 不都是正定的么。

 

类似的,分布式的估计器。就是一个分布式网络(没有数据融合中心),每一个节点都在相互合作,最终的目的是每一个节点都要达到有数据融合中心的精准度。那证明节点的估计值和数据中心的估计值趋于一致,也用的上上面这个东东。

 

其他的应用我也想不出来了,反正我觉得分析极限特性的时候,如果需要用单调有界定理,那上面这个东西还是不错的。

 

还有一个推广是关于矩阵的奇异值(singular value)的,因为奇异值本来就是 $A^TA$ 的特征值(复数我不太会,就不写H啦),也是挺自然的推论,我就不多说了,有兴趣的朋友自己看一看就好。

 

写文章么,就是to the best of my knowledge, 我对这个东西的理解差不多仅限于此了。见笑见笑。

 

最后还是要讲讲故事【1】。外尔是谁呢?赫尔曼·外尔(Hermann Weyl1885-1955)是一位德国数学家,理论物理学家,哲学家。他是希尔伯特的学生,当过苏黎世理工学院数学系的系主任。在那里他和爱因斯坦当过同事,也和薛定谔成为密友。 他在1930年去哥廷根接替了希尔伯特的职位。OMG,我听说欧洲的教授职位是走一个才能上一个,看来此人甚猛呀。纳粹执政之后,由于他妻子是犹太人,1933年他去普林斯顿高等研究院工作,直到1951年退休,并于1955年逝世。

 


倪琼琳老师写过一篇纪念外尔教授的文章,远比我这三言两语的流水账精彩得多,真的写得很好【2】。

 

PS:写博文比写论文轻松多了,至少可以东拉西扯,也不用太严谨,Happy。


1外尔教授词条的维基百科

2倪琼琳老师的《外尔小传


 




http://blog.sciencenet.cn/blog-624263-790572.html

上一篇:一名模电课助教的点点滴滴
下一篇:审稿有感

5 刘全慧 陆泽橼 文克玲 杨正瓴 iris7009

该博文允许注册用户评论 请点击登录 评论 (4 个评论)

数据加载中...
扫一扫,分享此博文

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2021-4-17 14:20

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部