DisCo 拆解 ≠ 经典因子化：为什么高维概率需要一套新代数

摘要

经典概率论里，“因子化”通常指把联合分布写成条件概率、图模型因子、或边缘分布加 copula 的乘积/函数关系。它是恒等式，默认某种结构已经给定。

DisCo 代数（Disintegration + Compression + Combination）关心的不是“写出一种因子化”，而是把高维联合测度放进拆—压—拼的代数机器里，研究在所有可能划分下，什么信息能被局部摘要抓住、什么信息必然残留在整体结构中。

本文论证：

经典因子化是结果，DisCo 拆解是操作；经典因子化问“怎么写”，DisCo 问“换一种拆法会丢掉什么”；经典因子化默认可逆，DisCo 的拆与拼天然不对称。

1. 经典概率论里的“因子化”是什么

1.1 链式法则

对随机变量 $X_1,\dots,X_n$，链式法则写

$$P(x_1,\dots,x_n)=P(x_1)\prod_{i=2}^n P(x_i\mid x_1,\dots,x_{i-1})$$

它隐含一个很强的前提：

变量有一个“自然顺序”，每个变量只通过前面变量影响后面变量。

换一个变量顺序，得到的条件概率不同；但式子本身仍然是恒等表示。

1.2 图模型 / 条件独立因子化

若 $(V,E)$ 是有向图，马尔可夫性质给出

$$P(x_1,\dots,x_n)=\prod_{i=1}^n P(x_i\mid x_{\mathrm{pa}(i)})$$

这里“因子化”已经把条件独立性当前提。能写开，是因为你先相信了图结构。

1.3 Sklar / copula$$F(x_1,\dots,x_n)=C(F_1(x_1),\dots,F_n(x_n))$$

这是最细划分：每个变量取一维边缘 CDF，把所有剩余依赖塞进 copula $C$。

边缘和依赖分离了，但划分被锁死在“单变量”上。

1.4 经典因子化的共同特征

• 先假定结构：顺序、DAG、单变量边缘；

• 写出的式子是恒等表示；

• 粗粒化是外挂的：PCA、聚类、信息瓶颈；

• 不系统问：“如果换一种划分，会丢掉什么？”

• 高阶依赖要么被假设消去，要么被当残差。

2. 测度拆解定理：DisCo 的起点

设 $(Z,\mathcal Z)$ 是标准 Borel 空间，$\mu$ 是其上概率测度，$T:Z\to Y$ 是可测映射，$\nu=T_*\mu$。

Rohlin / 标准 Borel 拆解定理说：存在 $\nu$-a.e. 唯一的概率核 $z\mapsto \mu_y$（$y=T(z)$），使得

$$\int_Z f(z)\,d\mu(z)=\int_Y\left(\int_{T^{-1}(y)} f(z)\,d\mu_y(z)\right)d\nu(y)$$

且对每个 $y$，$\mu_y$ 支撑在纤维 $T^{-1}(y)$ 上。

翻译成 DisCo 语言：

• $T$：选划分 / 选摘要；

• $\nu$：骨架分布；

• $\mu_y$：纤维上的条件测度。

所以拆解本身不稀奇。稀奇的是下一步：

把“沿任意划分拆解”组织成 cooperad，把“把局部块拼回”组织成 operad，把“块内压成 CDF 摘要”看成有损压缩。

3. DisCo 代数：拆、压、拼

取变量集 $V=\{1,\dots,n\}$ 和划分

$$\pi=\{A_1,\dots,A_k\}$$

联合测度可写为

$$\mu=\int \mu_{A_1}(\cdot\mid t_1)\otimes\cdots\otimes \mu_{A_k}(\cdot\mid t_k)\,d\Phi(t)$$

其中：

• $t_j$：第 $A_j$ 块的内蕴摘要，常用块联合 CDF；

• $\mu_{A_j}(\cdot\mid t_j)$：纤维，即给定摘要后块内条件测度；

• $\Phi$：块间骨架，描述各块摘要如何协同变化。

3.1 拆 Disintegrate：cooperad

拆是把大对象变成小对象。不同划分可以再细分、再粗化，满足余结合律。

链式法则只是“按坐标顺序投影”这个最呆板的拆法。

3.2 压 Compress：内蕴粗粒化

传统粗粒化是人选的：均值、主成分、聚类。

DisCo 的压不同：

• 块联合 CDF；

• 条件分位数；

• 块内熵；

• Wasserstein 势。

这些是测度自己决定的不变量。压一定有功：块内细节被折叠，只留可传输的摘要。

3.3 拼 Combine：operad

拼是把小对象按接口组装成大对象：

$$\gamma\big(\Phi;\ \mu_{A_1},\dots,\mu_{A_k}\big)=\int \mu_{A_1}(\cdot\mid t_1)\otimes\cdots\otimes \mu_{A_k}(\cdot\mid t_k)\,d\Phi(t)$$

cooperad 管拆，operad 管拼，二者对偶。

4. 关键不对称性：先拼再拆 = id，先拆再压再拼 ≠ id

这是整篇论文的心脏。

4.1 先拼再拆

如果从局部条件测度出发，用完整骨架拼回 $\mu$，再做拆解，只要没把纤维压坏，

$$\mathrm{Disintegrate}\circ\mathrm{Combine}=\mathrm{id}$$

完整条件依赖还在，拆开再认出来，不丢。

4.2 先拆再压再拼

但如果你：

1. 拆成块；

2. 把块内压成 CDF 摘要 $t_j$；

3. 拼时默认“给定各块摘要后块间条件独立”；

重建对象是

$$\hat\mu=\int\big(\mu_{A_1}(\cdot\mid t_1)\otimes\cdots\otimes \mu_{A_k}(\cdot\mid t_k)\big)\,d\Phi(t)$$

而真实对象是

$$\mu=\int\mu_{A_1,\dots,A_k}(\cdot\mid t)\,d\Phi(t)$$

差别不在边缘，也不在骨架，而在

$$\mu_{A_1,\dots,A_k}(\cdot\mid t)\quad\text{vs.}\quad\bigotimes_{j=1}^k \mu_{A_j}(\cdot\mid t_j)$$

鲁学星给出的结论是：

$$D_{\mathrm{KL}}\big(\mu(\cdot\mid t)\,\|\,\hat\mu(\cdot\mid t)\big)$$

正是“给定块摘要后，块间仍残存依赖”的量。

所以：

**拆—压—拼不是恒等变换。

压是有损的，拼回来时条件独立假设会吃掉高阶跨块依赖。**

5. 经典因子化 vs DisCo 拆解

6. 从“一个因子化”到“所有自然因子化的空间”

经典概率论通常问：

给定图 / 顺序 / copula，联合分布怎么写？

DisCo 问：

对同一个 $\mu$，考虑它关于所有划分的拆解：

$$\{\pi\}\mapsto\big(\Phi_\pi,\ \{F_{A}\}_{A\in\pi},\ \{\mu_A(\cdot\mid t_A)\}\big)$$

这些局部表示之间如何过渡？哪些量在过渡中不变？

这就像微分几何里：

• 一个坐标卡：链式法则；

• 一个图：马尔可夫网；

• 所有坐标卡组成的图册：DisCo；

• 坐标变换下不变的东西：曲率 / 陈类；

• 划分变换下不变的东西：概率上同调类。

Sklar 定理 = 最细划分下的 DisCo 特例。

链式法则 = 最呆板顺序下的 DisCo 特例。

马尔可夫性 = 骨架只连邻居的 DisCo 特例。

7. 为什么“拆不回来”反而是好事

经典思维怕丢信息。

整体概率论恰恰要利用“丢信息”：

1. 对 $\mu$ 做划分 $\pi_1$，压成块 CDF；

2. 对拼回的分布再做划分 $\pi_2$，再压；

3. 反复拆—压—拼，就是概率论的重整化群；

4. 可因子化、可条件独立表示的信息一层层被吃掉；

5. 最后剩下来压不掉的，是非平凡概率上同调类。

正如 Baudot–Bennequin–Vigneaux 所示：

• Shannon 熵是某系数模下的 1-上循环；

• 二元互信息是 1-上边界；

• 三元及以上多元互信息指向更高阶上同调；

• “拆不开的依赖”不是数值误差，而是拓扑障碍。

所以 DisCo 的真正贡献不是“又能分解一遍”，而是：

把“拆不开”变成可定义、可比较、可在 RG 流下追踪的数学对象。

8. 一个小例子：三个变量

设 $X,Y,Z$ 离散。链式法则写

$$P(x,y,z)=P(x)P(y\mid x)P(z\mid x,y)$$

换顺序：

$$P(x,y,z)=P(z)P(y\mid z)P(x\mid y,z)$$

两个式子都真。但如果你只保留：

• 边缘 $P(X),P(Y),P(Z)$；

• 两两联合 $P(X,Y),P(Y,Z),P(X,Z)$；

能否复原 $P(x,y,z)$？

不能，除非

$$I(X;Y;Z)=0$$

这里

$$I(X;Y;Z)=H(X)+H(Y)+H(Z)-H(X,Y)-H(Y,Z)-H(X,Z)+H(X,Y,Z)$$

不是“多余项”，而是 2-上边界。

DisCo 的拆拼残差把它显式说出来：块摘要抓住了边缘和成对耦合，但三元协同藏在条件分布偏离条件独立乘积的那一项里。

9. 结论

经典因子化是“把分布写开”。

DisCo 拆解是“把分布放进划分空间里游走”。

二者不是同一个动作的两种说法：

• 经典因子化追求可计算性；

• DisCo 追求结构性不变量；

• 经典因子化默认可逆；

• DisCo 公开承认：先拆再压再拼必然不全等；

• 经典概率把高阶依赖当残差；

• 整体概率论把高阶依赖当相。

因此可以说：

经典概率论把联合分布当作“可分解的对象”；

DisCo 代数把联合分布当作“在划分、压缩和拼装之下显露拓扑结构的几何对象”。

当 LLM 的 token 分布、扩散模型的图像流形、单细胞基因的联合分布、量子混合态的经典边缘都复杂到无法写成联合表时，我们需要的不再是“更好的因子化公式”，而是：

$$\boxed{\text{拆—压—拼的代数 + 信息上同调的诊断 + 重整化群式的提取}}$$

这，就是高维概率走向整体理论的新纲领。

参考文献线索

• 鲁学星，DisCo Algebra: Why Disintegration and Combination Are Not Inverses, arXiv:2610.15006, 2026.

• 鲁学星，概率论的新范式：当拆拼(DisCo)代数遇到信息上同调，科学网博客，2026-10-13.

• J. P. Vigneaux, Information structures and their cohomology, TAC 35(38), 2020.

• P. Baudot, D. Bennequin, The homological nature of entropy, 2015.

• Rohlin / standard Borel disintegration theorem；见 StBor / LMCS 相关综述。

支持单位：