博文

从 Sklar 到 DisCo：让联合概率的”拆”和”拼”成为代数

已有 315 次阅读 2026-10-10 21:16 |个人分类:科普|系统分类:科普集锦

从 Sklar 到 DisCo：让联合概率的"拆"和"拼"成为代数

鲁学星

中国科学技术大学数学博士

摘要：概率论里有一条被忽视的分界线。一条路线走单体混合——Giry monad 和 Leinster 概率 operad 解决的是"一个分布怎么从更简单的分布混出来"。另一条路线走多体因子化——本文介绍的 DisCo 代数（disintegration + combination）解决的是"多个变量的联合结构如何因子化为骨架和条件因子再拼回去"。两个流派源头不同、问题不同、代数工具不同。Sklar 定理是多体因子化路线的最细划分——将联合沿单坐标逐一拆解；DisCo 将其推广为一般划分，沿任意坐标子集投影，建立完整的 operad–cooperad 代数框架。拆有损，拼无损；先拼再拆可复原，先拆后拼不一定。

一、概率论的组合结构有两条腿

很多人以为"概率的组合结构"只有一种。其实不是。

第一条腿：单体混合流派。

源头是 Giry（1982）。Giry monad 做的事情是混合叠加：把一堆分布按权重搅在一起，multiplication $\int \nu\,d\mu$ 把"测度上的测度"扁平化为单个测度。Leinster（2011）把这个思想在有限集上展开——Giry monad 限制到有限集范畴（$\mathbf{FinSet}$）时，概率测度退化为单纯形里的原子向量，他把它展开为一个单纯 operad $\mathbf{P}(n)=\Delta_{n-1}$，composition $p\circ(q_1,\dots,q_n)$ 就是离散混合的显式公式。

这条路线从头到尾解决的是单体问题：一个分布怎么生成。没有边缘、没有条件、没有多坐标。混完之后内部结构就丢了——单向操作，不可逆。

第二条腿：多体因子化流派。

源头是 Sklar（1959）。Sklar 定理给出了多体因子化思想的最细划分：将联合分布沿单坐标逐一拆解，每个坐标的边缘是一维的，copula 编码全部剩余依赖。它把"联合"拆成"独立部分"和"耦合部分"。但 Sklar 的表述是分析性的——分布函数、逆函数——不是一个代数框架。

DisCo 代数想做的事：把 Sklar 的"拆—拼"思想变成代数，并将最细划分推广为一般划分。

两个流派的区别一句话概括：

单体混合问"怎么把分布搅成一个"，多体因子化问"联合结构怎么拆成因子再拼回去"。 不同源头，不同问题，不同代数工具。operad 只是公共语言，不是继承关系。

换个角度看：线性代数 vs 多线性代数

这两个流派的区别，本质上相当于线性代数和多线性代数 / 张量代数的区别。

单体混合流派本质上是线性的：Giry 的 multiplication $\int\nu\,d\mu$ 是把一族测度按权重叠加——凸组合，线性组合。Leinster 的 $p\circ(q_1,\dots,q_n)$ 是有限维的凸组合。操作对象是单个概率向量，就像线性映射 $V \to W$ 不关心 $V$ 内部的坐标结构。一个分布进去，另一个分布出来。混合是 flatten——就像 $(1,0)+(0,1)=(1,1)$，你回不去。

多体因子化流派本质上是多线性的：联合测度住在 $[0,1]^n$，这是多线性空间。边缘投影是沿坐标子集的"缩并"，条件核是保留部分指标后的剩余因子，拼合是张量积后沿骨架积分。就像你不能把 $v\otimes w\in V\otimes W$ 压回单个 $V$——多体联合结构内禀地需要多个坐标同时存在。因子化不是无条件可逆的——拆解是压缩，拼合是保真的。

混合是线性叠加，因子化是多线性分解。

二、DisCo 做什么

DisCo = Disintegration + Combination。核心命题：

联合概率测度不是原始对象。它是骨架（边缘 CDF）和条件因子（由边缘唯一确定）的因子化组合。

为什么是单位方体 $[0,1]^n$

所有对象统一住在 $[0,1]^n$ 上：

类型统一，operad 合成闭合
CDF 自然存在，且本身就是 $[0,1]^n \to [0,1]$ 的映射
Sklar 的 copula 天然住在 $[0,1]^n$ 里

拆解（Disintegration，cooperad 侧）

给定联合测度 $\mu$，它的 CDF 是：

$$F(x_1,\dots,x_n) = \mu\big((-\infty, x_1] \times \cdots \times (-\infty, x_n]\big)$$

沿坐标子集 $I$ 投影得到边缘 CDF：

$$F_I(x_I) = F(x_1,\dots,x_n)\big|_{\text{非 }I\text{ 坐标取 }1}$$

这就是一般划分——$I$ 可以是任意坐标子集，不限于单坐标。Sklar 对应的是最细划分 $|I|=1$。

边缘 CDF 就是骨架。 然后条件分布由联合 CDF 和边缘 CDF 唯一确定（正则条件下）：

$$\mu(\cdot\mid t_I) \text{ 由 } F \text{ 和 } F_I \text{ 决定}$$

但注意：拆解本身是有损的。 投影到 $F_I$ 这一步把条件核的信息压缩掉了——骨架 $F_I$ 不携带纤维的全部细节。你只拿着骨架，回不到联合。

拼合（Combination，operad 侧）

给定骨架（边缘 CDF）$\Phi_k$ 在 $[0,1]^k$ 上，以及由它和联合 CDF 唯一确定的条件核 $\mu_j(\cdot\mid t_j)$，拼合操作是：

$$\gamma(\Phi_k; \mu_1,\dots,\mu_k) = \int_{[0,1]^k} \mu_1(\cdot\mid t_1) \otimes \cdots \otimes \mu_k(\cdot\mid t_k)\,d\Phi_k(t_1,\dots,t_k)$$

这是纤维拼：骨架坐标被保留为联合结构的显式维度，条件核沿骨架张量积后积分。拼合不丢失信息——给定完整的骨架 + 纤维，拼回去是确定性的。不是混合——混合是 flatten，拼完不知道谁是谁。

闭合性

整个拆—拼往返要分方向说：

先拼再拆 → 能复原。 从骨架 + 纤维拼出联合 CDF $F$，再沿同一划分拆解，构造上能完整拿回原来的骨架 $F_I$ 和条件核 $\mu(\cdot\mid t_I)$。拼合没有丢信息，拆解是投影，往返 = 恒等。
先拆后拼 → 不一定能复原。 从联合 CDF $F$ 拆解得到骨架 $F_I$ 和条件核 $\mu(\cdot\mid t_I)$——如果条件核在拆解过程中被妥善记录（即由 $F$ 和 $F_I$ 共同确定并保留），那么拿骨架 + 这个条件核拼回去，能复原。但如果只保留骨架、丢了条件核，就回不去了。

三步全在 CDF 层面完成。CDF 同时充当 cooperad 的压缩摘要和 operad 的重构接口。参数不是自由指定的——骨架和纤维是由同一个联合 CDF 生成的约束对。这就是代数闭合性（但闭合的方向性如上所述）。

可逆性

拆和拼的信息性质不同。

拆解有信息丢失。 沿坐标子集 $I$ 投影得到边缘 CDF $F_I$，这一步把条件核 $\mu(\cdot\mid t_I)$ 的信息压缩掉了——骨架 $F_I$ 本身不携带纤维的全部细节。你只拿着骨架，回不到联合。

拼合不丢失信息。 给定骨架 $\Phi_k$ 和完整的条件核 $\mu_j(\cdot\mid t_j)$，拼合操作 $\gamma$ 是确定性的张量积后沿骨架积分，没有信息被抹去。

所以"可逆"要分两种情况说：

先拼再拆 → 能复原。 从骨架 + 纤维拼出联合测度，再沿同一划分拆解，构造上能完整拿回原来的骨架和纤维。拼合没有丢信息，拆解是投影，往返 = 恒等。
先拆后拼 → 不一定能复原。 拆的时候条件核的信息已经被压缩进联合结构里了。如果拆解过程中条件核被妥善记录（即由联合 CDF 和边缘 CDF 共同确定并保留），那么拿骨架 + 这个条件核拼回去，能复原。但如果只保留骨架、丢了条件核，就回不去了——混合流派的问题正在于此，flatten 之后条件结构不可恢复。

混合是单向的（搅完不可逆），因子化组合是有条件可逆的——拼无损，拆有损；先拼再拆可复原，先拆后拼取决于纤维是否保留。

三、离散情况下为什么看不出来

读者可能会问：离散情况下，条件概率 $p(y|x)$ 和联合 $p(x,y)$ 只差一个边缘 $p(x)$ 的除法。混合叠加和因子化组合在数值上不是一样的吗？

对。这正是单体混合流派没有区分两条腿的原因。

离散端，混合 $\sum_i p_i q_i$ 和因子化 $p(x)p(y|x)$ 在原子支撑下数值等价——你看到 $p(x,y)$ 这张表，既可以说"这是混合的结果"也可以说"这是因子化的结果"，两种读法给出同一个数字。

只有当进入连续/测度论层面，差异才暴露：

混合：flatten，骨架坐标被消掉，条件结构不可恢复
因子化：拼合保真，拆解有损——先拼再拆可复原，先拆后拼取决于纤维是否保留

所以多体因子化必须在连续/测度论层面才能显式化。反过来，它回看离散时给了新视角：Leinster 的 $q_i$ 应该同时被读作条件核，而不仅仅是子分布——离散端这个读法冗余，连续端是结构性的。

四、和前人关系：两条独立的流派

	单体混合流派	多体因子化流派
思想源头	Giry (1982)	Sklar (1959)
源头贡献	—	最细划分：联合沿单坐标逐一拆解
本文推广	—	一般划分：沿任意坐标子集投影
代表框架	Leinster $\mathbf{P}$ (2011)	DisCo algebra（本文）
问题类型	单体生成	多体结构
核心操作	混合叠加 / 嵌套选择	因子化组合（CDF 压缩 + 纤维拼）
数学类比	线性代数（空间到空间的映射）	多线性代数 / 张量代数（指标分解与重组）
代数工具	monad → 单纯 operad	operad–cooperad 对
维数变化	arity 展开（编码嵌套深度）	压缩/重构（编码耦合宽度）
可逆？	否（混合 flatten）	有条件：拼无损，拆有损；先拼再拆可复原，先拆后拼取决于纤维是否保留
边缘分布	不存在（无多坐标）	是骨架，由 CDF 投影得到（但骨架不携带纤维全部信息）
条件核	不存在	由联合 CDF 和边缘 CDF 唯一确定；拆解时若未保留则不可恢复

维数变化的两种语义

Leinster 的 $\mathbf{P}(n)=\Delta_{n-1}$ 里维数变化是 arity 展开：合成 $p\circ(q_1,\dots,q_n)$ 把 $(n-1)$ 维单形和 $n$ 个低维单形映射到 $(\sum k_i)-1$ 维单形。维数编码的是嵌套选择的深度——每多一层选择就多加一维。这是标准 operad 行为。

DisCo 里维数变化走相反方向。$n$ 计数的是参与耦合的坐标数。拆解时沿坐标子集投影，维数缩小——这是有损压缩；拼合时从骨架和纤维恢复，维数涨回。维数编码的是多少变量被耦合在一起，而非多少生成层被堆叠。

Leinster 的维数是树高，DisCo 的维数是耦合宽度。一个往深里长，一个往宽里压——压的时候有损，涨的时候保真。

边缘分布的缺席与在场

Leinster 的世界里没有边缘分布——因为他只有单体，没有多坐标。DisCo 从一开始就是多体的，边缘 CDF 是方体结构自带的。而且边缘不只是"副产品"——它是骨架本身，是条件核的生成源，是拼合操作的输入参数。但骨架不携带纤维的全部信息：拆解时条件核被压缩掉了，只靠骨架回不到联合。边缘在单体流派里不存在，在多体流派里是主角——但它是"有损压缩后的主角"。

五、熵是什么

在 DisCo 框架里，Shannon 熵和微分熵不是"定义在分布上的函数"，而是：

因子化结构的加性不变量 / 1-cocycle

离散端链规则：

$$H(p \circ \vec{q}) = H(p) + \sum_i p_i H(q_i)$$

连续端：

$$H(\mu) = H(\Phi_k) + \mathbb{E}_{\Phi_k}[H(\mu_j(\cdot\mid t_j))]$$

熵测量的是"因子化分解中丢失的信息量"——拆得越碎（越接近独立），熵越大。这是 Fadeev 1956 公理的几何解释：熵之所以满足链规则，是因为 DisCo 结构要求加性。拆解是压缩，熵量化的是压缩过程中丢失的信息量——拼合方向不丢信息，所以熵的增量全在拆解侧。

六、能干什么

概率论基础：联合/边缘/条件不再是三个独立定义，而是因子化组合的三道工序——拆解（有损压缩）、记录纤维、拼合（保真重构）
贝叶斯推断：后验 = 换骨架后的拼合，不是新公式，是结构重投影。先验→后验的更新本质上是换一套骨架重新拼，拼合本身不丢信息
统计物理：粗粒化 = 沿坐标子集做 CDF 压缩（选粗划分）——这是有损的，信息丢在条件核里；信息瓶颈 = 选最优骨架，在压缩损失和信息保留之间权衡。Sklar 最细划分对应信息全保留端点
机器学习：Transformer attention 是有限 DisCo 的显式版——attention weights = 骨架（边缘），value projections = 条件纤维。本质上就是张量缩并。前向传播是拼合（保真），但如果我们只存 attention weights 而丢了 value 的具体条件结构，就回不到输入了
量子信息：量子态的纠缠 = 不可因子化。DisCo 的拆解在量子世界会失败——这恰好标记了"非经典相关"的存在。即使能拆，拆解过程也是有损的，纠缠信息藏在条件核里，只拿边缘（约化密度矩阵）回不到联合态

七、收口

概率论的组合结构有两条腿。

第一条腿，从 Giry 到 Leinster：单体混合，解决"一个分布怎么生成"的问题。Leinster 的 $\mathbf{P}(n)=\Delta_{n-1}$ 是 Giry monad 在有限集上的具体实现，展开为单纯 operad。混合叠加，arity 展开，不可逆。本质上是线性代数——一个空间到另一个空间的映射。

第二条腿，从 Sklar 到 DisCo：多体因子化，解决"联合结构怎么拆成因子再拼回去"的问题。Sklar 定理给出了最细划分——联合沿单坐标逐一拆解，copula 编码剩余依赖。DisCo 代数将其推广为一般划分：沿任意坐标子集投影得到骨架，条件核由边缘唯一确定，拼合与拆解形成 operad–cooperad 对。本质上是多线性代数——张量沿指标分解与重组。维数压缩编码耦合宽度，拼合不丢信息，拆解有信息丢失；先拼再拆可复原，先拆后拼取决于纤维是否保留。

离散世界用 $\sum$，连续世界用 $\int$，AI 世界用 attention，量子世界要改写下公理——但底层是同一件事：

联合概率不是给定的，是多体因子化组合出来的。拼是保真的，拆是压缩的——可逆性取决于方向。

作者：鲁学星，中国科学技术大学数学博士。研究方向：量子引力、量子基础、范畴论、数学物理、AI。本文介绍的工作为作者独立完成的 DisCo 代数框架，暂定标题 "DisCo algebra: a compositional approach to joint probability"。

发布 checklist

标题备选：