||
语义和语法:范畴概率论的历史、现状和未来
如果让一个学概率论的学生形容「概率是什么」,他大概率会说:样本空间、σ 代数、测度、积分、条件期望。这是 Kolmogorov 在 1933 年定下的地基。
但如果让一个范畴论者说同样的话,他可能会画一张图:对象是系统,箭头是随机映射,复制和丢弃表示采样与边际化,一根线分叉表示「把这个变量复印一份再条件化」。
这两种说法不是同一门学科的两种口音。它们是两条并行的纲领,从不同的入口出发,走向各自的顶峰:
语义纲领:从「概率到底是什么」出发,把测度、分布、条件结构一步步范畴化,追问概率对象的内部组织方式。
语法纲领:从「概率推理怎么形式化」出发,先立公理,再把具体模型当实例,目标是建立不依赖具体测度的综合概率论。
到 2026 年,范畴概率论最有趣的事,不是「它已经统一了」,而是两条路线各自走到了对方门口,却还没有真正接上。
一、语义纲领:从 Kolmogorov 的测度,到多体因子化的代数Kolmogorov 的公理系统回答的是:概率怎样成为一门分析学。概率空间、随机变量、条件期望,全都有明确定义。
范畴论进来,做的第一件事不是推翻它,而是翻译它。
1962 年,Lawvere 在一份后来才广为人知的手稿 The Category of Probabilistic Mappings 里,已经把「随机映射」当成范畴箭头来用:对象是可测空间,态射是从 X 到 Y 的 Markov kernel,复合就是核的积分。
1982 年,Giry 把这件事做成单子(monad):在可测空间范畴上,构造出把每个空间 X 送到「X 上的概率测度空间」的函子,再配上单位和乘法。这个 Giry monad 的 Kleisli 范畴,就是随机映射的范畴 Stoch。从此,「先采样、再随机变换、再采样」不再是概率课本里的口头规则,而是范畴里的箭头复合。
后来人继续补砖:
Leinster 把有限集上的离散概率写成 operad:单纯形 $\Delta_{n-1}$ 是操作空间,混合和熵的链规则有了组合结构。
Panangaden 把 Markov kernel 介绍给计算机科学家,概率程序、标注迁移系统、bisimulation 开始和范畴概率接轨。
再到 DisCo 代数:不再满足于「一个变量随机变成另一个变量」,而是问——100 个变量的联合分布,沿任意划分怎么拆?哪块是骨架,哪块是纤维,压掉块内信息后丢的是什么依赖,拼回去和原分布差多少?
DisCo 的思路可以一句话概括:
拆:沿任意划分把联合测度分成骨架(块间耦合)和纤维(块内条件测度);
压:把块内信息压成不变量(联合 CDF、条件分位数、块内熵);
拼:用 operad / cooperad 式组合把局部零件焊回全局,并用条件 KL 记账。
到这一步,语义纲领已经把多体联合概率的内部组织说得相当完整。从测度论出发,经过范畴翻译,最终抵达了一个能处理任意变量组、任意划分、带信息度量的代数架构。它不缺内容,缺的是:把这些内容再从具体测度空间里抽出来,变成不依赖 Lebesgue 积分的公理。
二、语法纲领:综合概率论,从推理规则出发语法纲领不关心你背后是不是测度空间。它问的是:
如果我只承认「随机映射」和「复制/丢弃/条件化」这几条规则,概率论里哪些定理还能证?
答案是:出乎意料地多。
Fritz 2020 年的 A synthetic approach to Markov kernels 把 Markov category 立成主轴:对象随便,态射是随机映射;copy–discard 结构用来表达采样与边际化;条件化、几乎必然相等、交换子结构用来表达条件独立、贝叶斯逆、充分统计量。
在这个框架里:
de Finetti 定理可以不用测度论证明;
Kolmogorov / Hewitt–Savage 零一律有范畴版本;
d-separation 可以用 string diagram 的图论条件重写;
充分统计量、Blackwell 定理、遍历分解,也都能在「不碰 Radon–Nikodym 导数」的情况下被形式化。
更妙的是 string diagram:一个联合分布就是一根多端电线,边际化就是剪掉一根线,条件化就是在线中间插一个盒子。概率推理变成了连图和拆图。
语法纲领的顶峰是综合概率论——一个不预设测度空间的统一框架,在这个框架下,Kolmogorov 概率论、量子概率、imprecise probability 都只是它的模型(model),而不是它的定义。
综合概率论的优势是根本性的:
不绑定具体空间,一个定理证一次,多个领域自动成立;
和概率编程、机器学习、形式验证天然亲近;
string diagram 让推理规则可视化,复合即连线。
但它有一个明确的缺口:缺乏粗粒化与「拆—压—拼」的公理化。
语法纲领目前能流畅处理的是单体生成、双体条件化、树状推理——「A 影响 B,B 影响 C」这类结构。它可以说「这里有一个态射 $I \to X\otimes Y\otimes Z$」,却不容易原生表达:
沿任意划分把变量组拆成骨架与纤维;
块内压缩后保留最小足够统计量;
非独立块之间的残余耦合;
拼回去之后的条件 KL 残差。
用大白话说:综合概率论能说「一个变量怎么变成另一个变量」,还不擅长说「一群变量怎么被切分、压缩、重装,并量化每一步的信息损失」。
三、两条平行路线,各自从具体走向抽象语义纲领和语法纲领不是上下级关系。它们是两个平行的纲领,从不同的起点出发,都在做同一件事:把概率论从具体走向抽象。
语义纲领 | 语法纲领 | |
|---|---|---|
起点 | 测度、联合分布、条件核 | 随机映射、条件化、推理规则 |
问什么 | 概率对象内部怎么组织 | 概率推理怎么被公理化 |
强项 | 多体因子化、条件结构、信息度量 | 单体/双体推理、图式证明、跨模型通用性 |
顶峰 | DisCo 代数:拆—压—拼的完整语义 | 综合概率论:不预设测度的统一语法 |
代表 | Lawvere, Giry, Leinster, DisCo | Fritz, Perrone, Cho–Jacobs |
语义纲领手里有多体因子化的完整内容——拆解、压缩、条件结构、拼合、KL 残差,在测度论层面已经说得清楚。
语法纲领手里有综合框架的望远镜——string diagram、几乎必然等式、不绑定模型的证明力。但望远镜里还没有装上「多体因子化」的镜片。
四、瓶颈:高维概率的真正难题低维时代,几个变量、一张 DAG、一张联合表就够了。高维时代不一样:
单细胞数据:几万基因、百万细胞;
大模型:几万 token 的联合分布根本写不下;
扩散模型:连续噪声尺度上的无穷维纤维;
电网、交通、多智能体:变量既多又互相条件依赖。
这时真正的问题从来不是「怎么定义一个概率空间」,而是:
100 个变量按哪种划分拆最省信息?
哪部分是块间骨架,哪部分是块内纤维?
压掉块内信息后,丢的是哪种依赖?
近似分布和真分布差多少,用条件 KL 怎么记账?
DisCo 在语义层已经处理这些事。综合概率论在语法层还没有把它们变成一等公民。
这就是 2026 年范畴概率论的中枢瓶颈:
五、合流:下一步是把语义内容翻译成语法原语综合概率论要成为真正的「综合」,不能只覆盖「一个变量怎么变成另一个变量」。它必须覆盖「一群变量怎么被切分、压缩、重装」——也就是粗粒化与拆—压—拼的公理化。
未来不会是某一派吞掉另一派。更可能的路线是:
1. 把「划分」变成语法原语用彩色 operad 或 hypergraph category 表达「哪些变量属于同一块」。平面 string diagram 适合树,hypergraph 适合块。这样「非独立多体结构」不再是临时技巧,而是图语言本身。
2. 把 KL 残差变成 2-层结构0-胞腔是对象,1-胞腔是随机映射,2-胞腔是两个核之间的近似程度。拼装时的信息损失不再是外挂的实值函数,而是范畴里的「方向」和「距离」。
3. 把期望、方差、条件期望补进 Markov category语法纲领过去能说独立、条件化、充分统计,却不太能原生说「期望是多少」。近年已有工作用 presheaf 在 Markov category 上定义「函数」和「期望」,这是把信息度量接进综合框架的必要一步。
4. 分层公理L0:Markov category 基础,覆盖单体/双体推理;
L1:多体因子化公理,覆盖划分、骨架、纤维——把 DisCo 的「拆」变成语法原语;
L2:压缩度量公理,覆盖条件 KL、信息瓶颈——把「压」和「拼」的信息账本接进来;
L3:正则性公理,覆盖 Polish space、Giry monad、正则条件概率。
这样,有限集上的学生、做机器学习的工程师、做测度论的专家,可以各取一层,而不会在错误模型里推出假定理。
六、一句话看未来Kolmogorov 给了地基:概率是测度。
Lawvere–Giry 把概率变成范畴对象:随机映射是箭头。
Leinster 把单体混合写成 operad。
DisCo 把多体因子化写成代数:拆得开、压得准、拼得回。
Fritz–Perrone 把概率推理写成语法,目标是综合概率论。
到 2026 年,位置已经很清楚:
语义纲领把多体因子化的内容说清楚了。语法纲领的综合概率论已经成型,但还缺粗粒化与「拆—压—拼」的公理化。
下一阶段的核心工作,不是再发明一个新框架,而是做一道接口:
把 DisCo 的「拆得开、压得准、拼得回」,翻译成综合概率论的语法原语。
谁先把这道接口做出来,谁就站在范畴概率论的下一道门槛上——
那时我们才可能真正说:概率论不只有 Kolmogorov 的测度地基,也有自己的「综合语言」。
Archiver|手机版|科学网 ( 京ICP备07017567号-12 )
GMT+8, 2026-10-16 09:07
Powered by ScienceNet.cn
Copyright © 2007- 中国科学报社