自由概率理论简介

 2019.2.27

现在啥都是个大字，如大数据，大规模天线阵等等。这里面很容易就会面对大维矩阵的计算问题。大家都知道，求矩阵特征值永远是数学中的中心问题之一。对大维矩阵计算也不例外。

对随机矩阵的特征值分布的研究应该是自从有概率论就有，如许宝騄先生上世际40年代就有研究。后来Wigner得出，如果Hermitian方阵里的所有上三角上（包括对角）的元素都是高斯独立同分布的话，那么当矩阵维数趋于无穷大时，其特征值趋于半圆分布。它叫Wigner半圆律 (Wigner's  semicircle law)。

上个世纪80年代，Voiculescu发明了自由概率理论（free probability theory）。他最早的出发点是想解决冯诺依曼代数的同构性的老问题（1967年），后来无意中他的结果把Wigner半圆律大大的推广到了任意有限多个随机矩阵的联合分布。且说了，大维随机矩阵很接近自由了。我开玩笑说，就像穿着衣服的猩猩，当空间维度越来越大时，猩猩们身上穿的衣服被抖得越来越光，最后全光了，当即就完全自由了。

这个自由性，从数学的角度来说，是这样的。我们平时的随机变量的乘法是可交换的，它们的分布函数可以用随机事件的概率来定义。可是，这对不可交换的随机变量（如随机矩阵）就不可行了。怎么办呢，Voiculescu就用它们的所有高阶矩来确定。大家知道，在大学所学的概率论里，最重要的结果是中心极限定理。Voiculescu也想对不可交换的随机变量得出类似的定理，也就是要考虑它们某种权重后的和的极限概率分布。要计算它们的和的概率分布，就要计算这个和的高阶矩，这里就有了它们的所有混合乘积的均值，显然很复杂。为此Voiculescu想到，如果尽量多的这些混合乘积的均值是0的话，那么这些高阶矩的计算或估计就会变得简单。这正是“自由”的概念，其充分利用了随机变量的不可交换性。相关具体的讨论，可见【2】。

由于自由概率理论可以用来求大维矩阵特征值的渐近分布，过去几年，又兴起大规模天线阵通信，这两者一拍即合，它被用来求大维信道的传输率。听上去似乎很好，遗憾的是，东西是好，但骨头很硬。自由概率中涉及到太多的数学符号和数学概念，据我不完全统计，里面有算子代数，概率论，组合数学，还有复分析。如此庞大的数学阵容，让很多学数学出生的人望而却步，更让不是学数学出身的研究人员不堪重负。

最近我心血来潮，花了不少时间学习了这个题目。一开始同样比较摸不到头脑，后来终于有了一些领悟。我心想，为啥必须一上来就要用这么多数学呢？我觉得，如果只是理解和应用，完全没有这个必要。所以就写了一个我自认为是通俗易懂的短文，现放在我的主页上 【1】，供大家批评指正。

【1】 https://www.eecis.udel.edu/~xxia/Free_Probab.pdf

或者 https://arxiv.org/pdf/1902.10763.pdf （arXiv:1902.10763v1）

【2】X.-G. Xia, “Undesired cross terms,” IEEE Signal Processing Magazine, vol. 37, no. 6, pp. 192-195, Nov. 2020.

支持单位：