Xuexinglu的个人博客分享 http://blog.sciencenet.cn/u/Xuexinglu

博文

因果凝聚与人工智能(概述)

已有 461 次阅读 2026-8-20 14:15 |系统分类:科研笔记

添加图片注释,不超过 140 字(可选)

2026年8月12号给几个网友以"因果凝聚与人工智能"为题做了一个报告, 介绍了我在人工智能基础理论方面的研究进展. 报告还有一个副标题, "从辛顿范式到量子序参量". 因为时间紧张, 报告准备的不是很充分, 很多方面只能点到为止. 这个报告是我的属性主义纲领的延续与深化, 它论证了属性主义纲领与当今主流人工智能理论的自然统一性, 发现了一些更加具体的联系, 提出了一些更加具体的研究建议.

开门见山, 先交代一下这个报告的主要目标. 霍普菲尔德为人工智能建立了一个经典力学模型, 但是这个模型有很多缺点. 辛顿在霍普菲尔德的基础上, 为人工智能建立了一个更可用的统计力学模型, 但这个模型仍然有很多缺点. 我的目标则是在霍普菲尔德和辛顿的基础上, 为人工智能建立一个更加先进的量子规范场论模型. 这三代模型都是基于神经网络的, 都是多体系统, 分别对应伊辛动力系统, 自旋玻璃(随机伊辛模型)和量子液体(量子伊辛模型), 这是一个层层递进的格局.

添加图片注释,不超过 140 字(可选)

无数例子证明了数学在自然科学中有不可思议的有效性. 2024年诺贝尔物理学奖授予诺贝尔霍普菲尔德和辛顿, 以表彰他们在"人工智能的神经网络中实现机器学习的基础性发现和发明". 在科学哲学层面, 霍普菲尔德和辛顿的研究可以解读为物理学在智能科学中不可思议的有效性, 并概括为"智能-物理对偶". 当然, 这是对历史的粗粒化解读, 霍普菲尔德和辛顿的研究也都受到了生物学, 认知科学等很多学科的启发. 我的研究比较纯粹, 主要是受数学,特别是范畴学, 和物理学的启发. 我的报告的目标可以看作是智能-物理对偶的第三代演进, 同时包含了对数学有效性和物理有效性的坚定信念. 我们应该学习霍普菲尔德和辛顿的精神, 用物理学思想来指导新一代人工智能的设计.

这次报告有很多重要的论点, 我列举一下.

1. 因果凝聚态=微分同胚不变泛函=(量子)爱因斯坦-希尔伯特作用量=(背景无关的)现代霍普菲尔德能量

添加图片注释,不超过 140 字(可选)

在因果凝聚框架下, 量子引力分为两个部分, 一个是运动学部分,它给出观测量代数和微分同胚群的表示. 另一个动力学部分, 它指定通过指定一个微分同胚不变的能量泛函来定义. 动力学框架可以理解为一种背景无关的现代霍普菲尔德网络, 相当于是对现代霍普菲尔德网络的范畴化.

2. 第二个发现就是贝兹构造与杰恩斯的变换群理论的等价性.

贝兹用图嵌入技术,重新简洁地用哈尔测度定义了阿什台卡-莱万多斯基测度. 如果我们把神经网络的边上的权重看作规范场, 那么杰恩斯的变换群理论使用哈尔测度来定义权重空间上的先验分布的思路和贝兹就是一致的.

贝兹所在的语境是背景无关的非微扰量子规范理论, 杰恩斯所在的语境是客观贝叶斯推断, 这两个理论在数学上是完全同构的. 贝叶斯推断和量子场论数学形式的等价性, 我们断言人工智能和量子规范理论密切相关的一个重要依据.

添加图片注释,不超过 140 字(可选)

3. 因果凝聚框架和斯皮瓦克(Spivak)的范畴数据库理论无缝衔接

斯皮瓦克的动机从追问什么是意义开始. 香农的信息论只是关于"信号传输效率"的理论, 并非关于意义的理论. 斯皮瓦克把数据概型(scheme)定义为有限范畴,数据实例定义为范畴上的集值函子, 这与因果凝聚框架是完全一样的.

4. 表示学习的统一理论

辛顿确立了无监督训练+微调对齐的现代大模型范式, 它的核心自监督, 生成式, (分布)向量式深度表示学习. 表示学习是任务无关的, 以数据的内在关联或生成机制为目标的训练模型. 如何刻画数据的内在关联, 我认为就是对称张量范畴或者量子序参量. 目前表示学习有三个主要模型架构,分别是受限玻尔兹曼机, 现代霍普菲尔德网络和transformer架构, 证明它们的统一性是现在学术界关心的热点问题. 我断言因果凝聚框架是表示学习的终极框架, 其它的框架之间的等价性可以通过与因果凝聚的联系而得到证明.

添加图片注释,不超过 140 字(可选)

5. 智能-物理对偶

霍普菲尔德和辛顿的贡献在于用物理学的原理去实现人工智能的构想, 我们应该继续坚持这种哲学, 霍普菲尔德用经典力学原理实现了联想记忆, 辛顿用统计力学原理实现了自监督生成式表示学习. 那接下来, 自然地, 我们应该考虑用量子力学和规范场论的原理来实现更加强大的人工智能.

添加图片注释,不超过 140 字(可选)

6. 融合智能

新一代人工智能要统一符号主义, 联结主义和行为主义. 在因果凝聚框架下, 我们看到自旋网络恰好就是张量逻辑中的斯科伦函数, 路径积分恰好就是逻辑学中的归结原理, 消息传递恰好就是图形演算, 这就建立了沟通符号主义和联结主义的桥梁.

添加图片注释,不超过 140 字(可选)

7. 因果凝聚是研究高维统计的必由之路

高维联合分布难以直接计算, 但可以通过研究其所有的低维的粗粒化分布, 以及它们之间的联系来间接刻画高维联合分布. 低维的粗粒化分布及其之间的关系恰好可以用对称张量范畴来刻画.

添加图片注释,不超过 140 字(可选)

8. 属性主义是通往小数据人工智能的必由之路

添加图片注释,不超过 140 字(可选)

9. 伊斯贝尔(Isbell)对偶给出因果凝聚的可学习性

添加图片注释,不超过 140 字(可选)

因果凝聚和范畴学的三大基本构造(kan扩张, 格罗腾迪克构造, 和伊斯贝尔对偶)可以无缝衔接

添加图片注释,不超过 140 字(可选)

10. 知识=数据中的量子序参量

添加图片注释,不超过 140 字(可选)



https://blog.sciencenet.cn/blog-3582667-1548769.html

上一篇:[转载]注意力=霍普菲尔德检索




    
收藏 IP: 117.67.176.*| 热度|

0

该博文允许注册用户评论 请点击登录 评论 (0 个评论)

数据加载中...

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2026-9-3 15:50

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部