概率论的统一框架：从 Leinster 到鲁学星——离散版 DisCo 代数，与连续版 DisCo 代数

很多人学概率论会有一种隐隐的分裂感：

• 离散概率里，你会算 $p_i$、会算 Shannon 熵、会做“先按 $p$ 选大类，再按 $q_i$ 选小类”；

• 连续概率里，你突然开始谈条件密度、正则条件测度、disintegration、全概率公式的积分版、贝叶斯更新的核版本。

好像两边是两套语言。

但如果把 Tom Leinster 的概率 operad 和鲁学星的 DisCo 代数摆在一起，会发现一件很舒服的事：

Leinster 的框架，就是离散版 DisCo 代数；鲁学星的框架，就是连续版 DisCo 代数。

它们不是两个理论，而是一个“拆—拼”结构在两个尺度上的投影。

一、Leinster 做了什么：把“先选块、再选块内”写成 operad

Leinster 的概率 operad $\mathbf P$ 非常朴素：

$$\mathbf P(n)=\Delta_{n-1}$$

也就是“$n$ 个结果上的概率分布”。

如果有一个外层分布

$$p=(p_1,\dots,p_n)$$

和 $n$ 个子分布 $q_i\in\Delta_{k_i-1}$，那么 operad 合成就是：

$$p\circ(q_1,\dots,q_n)= (p_1 q_{1,1},\dots,p_1 q_{1,k_1}, \dots, p_n q_{n,1},\dots,p_n q_{n,k_n})$$

这句大白话就是：先以概率 $p_i$ 进入第 $i$ 块，再在块内按 $q_i$ 选具体结果。

Shannon 熵在这个结构里满足链规则：

$$H\big(p\circ(q_1,\dots,q_n)\big)=H(p)+\sum_{i=1}^n p_i\,H(q_i)$$

Leinster 的高明之处在于：他不让熵当出发点，而是问——如果要求一个实数赋值 $\alpha(p)$ 满足

$$\alpha(p\circ \vec q)=\alpha(p)+\sum_i p_i\,\alpha(q_i),\qquad \alpha((1))=0,$$

再加对称性、连续性，那它只能是什么？Fadeev 定理答：

$$\alpha(p)=c\,H(p)$$

所以 Leinster 框架的灵魂是：

熵不是定义出来的，而是“有限概率树怎么拼”这件事唯一允许的不变量。

二、但 $\mathbf P$ 其实也藏着 cooperad 的一面

通常大家只说 $\mathbf P$ 是 operad（把子分布拼成大分布）。可只要允许“划分”，它立刻有 cooperad 的味道。

设有限分布 $\mu$ 作用在原子集 $\{1,\dots,N\}$ 上，取有限划分

$$I_1\sqcup I_2\sqcup\cdots\sqcup I_k$$

定义块权重与条件子分布：

$$p_j=\mu(I_j),\qquad \mu(\cdot\mid I_j)(x)=\frac{\mu(x)}{\mu(I_j)}\quad(x\in I_j)$$

于是得到拆解映射：

$$\mu\ \longmapsto\ \big(p_1,\dots,p_k;\ \mu(\cdot\mid I_1),\dots,\mu(\cdot\mid I_k)\big)$$

这就是离散世界的 disintegration：

• $p$：块间怎么选；

• $\mu(\cdot\mid I_j)$：选中第 $j$ 块后块内怎么选。

所以 $\mathbf P$ 同时带两箭头：operad（拼）+ cooperad（拆），只是 Leinster 原文把 cooperad 那侧藏起来了。

三、补全之后：离散版 DisCo 代数

把隐藏的拆解侧显式写出来，就得到

$$\mathsf{DisCo}_{\mathrm{disc}}=\{\text{finite distributions}\}$$

• operad（拼）：$p\circ(q_1,\dots,q_n)$

• cooperad（拆）：$\mu\mapsto(p_j,\ \mu(\cdot\mid I_j))$

拆出来、拼回去互逆：

$$\mu=\sum_{j=1}^k p_j\,\mu(\cdot\mid I_j)$$

熵沿结构自然分层：

$$H(\mu)=H(p)+\sum_{j=1}^k p_j\,H\big(\mu(\cdot\mid I_j)\big)$$

这已经是 DisCo 了，只是还停在有限离散世界：划分有限、条件是有限分布、用 $\sum$ 不用 $\int$、零概率块可人工约定。

Leinster 的概率 operad + 隐含的有限划分拆解 = 离散版 DisCo 代数。

四、鲁学星：把同一台机器开到连续世界

鲁学星的 DisCo = Disintegration + Combination，对象换成 $[0,1]^n$ 上的 Borel 概率测度 $\mu$。

拆解侧（cooperad）：

$$\mu= \int_{[0,1]^k} \mu_1(\cdot\mid t_1)\otimes\cdots\otimes\mu_k(\cdot\mid t_k)\; d\Phi_k(t_1,\dots,t_k)$$

• $\Phi_k$：块间耦合，即“骨架”；

• $\mu_j(\cdot\mid t_j)$：给定骨架后第 $j$ 块的条件核，即“纤维”；

• 积分：对骨架测度取平均。

拼合侧（operad）反过来：

$$\gamma(\Phi_k;\mu_1,\dots,\mu_k)= \int\bigotimes_{j=1}^k \mu_j(\cdot\mid t_j)\;d\Phi_k$$

拆得开、拼得回、互逆。于是全概率公式、贝叶斯更新、粗粒化、信息瓶颈，全是这台拆拼机的不同档位。

五、离散 ↔ 连续 对照

让连续端的骨架退化成有限原子测度：

$$\Phi_k=\sum_{j=1}^k p_j\,\delta_{t_j},\qquad \mu_j(\cdot\mid t_j)=q_j$$

则连续拼合公式直接塌成离散合成：

$$\int\bigotimes_j q_j\,d\Phi_k =\sum_{j=1}^k p_j\,q_j =p\circ(q_1,\dots,q_k)$$

Leinster 框架 = DisCo 在“有限原子 + 有限划分 + 确定条件分布”下的截面；

鲁学星框架 = 同一结构在连续测度、可测划分、条件核积分下的全尺寸版本。

六、熵在两端的身份

离散端：熵是公理逼出来的内部 $\mathbf P$-代数唯一解

$$\alpha(p\circ\vec q)=\alpha(p)+\sum_i p_i\alpha(q_i)\ \Longrightarrow\ \alpha=cH$$

连续端：熵是拆拼余代数上的可加特征

$$H(\mu)=H(\Phi_k)+\mathbb E_{\Phi_k}\big[H(\mu_j(\cdot\mid t_j))\big]$$

一边是“求和版链规则”，一边是“期望版链规则”，结构同构、尺度不同。

七、收口

Leinster 把“有限概率分布怎么嵌套选择”写成 operad，并用 internal algebra 公理把 Shannon 熵唯一化；把其中隐含的有限划分拆解显式化，就得到离散版 DisCo 代数。鲁学星把同一对“拆 / 拼”箭头从有限原子分布推广到 $[0,1]^n$ 上的 Borel 测度，用正则条件测度和骨架测度把“先选块、再选块内”写成条件核积分，就得到连续版 DisCo 代数。

离散概率论不是连续概率论的“前身”，连续概率论也不是离散概率论的“极限”；它们是一个 DisCo 结构在 $\sum$ 与 $\int$ 两种语法下的两个投影。

支持单位：