etreeasky的个人博客分享 http://blog.sciencenet.cn/u/etreeasky

博文

关于不完备性定理和不确定性原理的探讨(十六)(10)

已有 484 次阅读 2024-10-6 10:46 |系统分类:科研笔记

16.10 有限次逼近

 

特斯拉FSDv12端到端之前的算法是依靠if-else语句不厌其烦打补丁,写了30多万行规则依然问题层出不穷,因此很多年来自动驾驶仿若永远无法完工的烂尾楼,被当作吹牛皮。不仅仅马斯克口嗨被质疑,其实每次人工智能危机都因为类似长尾误差始终存在而成为笑料,长尾问题是AI发展历程中的最大拦路虎。

大模型参数集从万到亿,再到百亿、千亿、万亿,面对不断追加的投资预算规模,灵魂拷问,openAI会不会重蹈覆辙,一方面不停解决老问题,另一方面被层出不穷新问题反复困扰,深度学习难道永远无法达到AGI彼岸?

有限的程序,真的能解答客观世界无穷无尽的问题么?

 

反过来看,如果有限的计算量不能度量无限的宇宙,人类有限的大脑又是如何认知无限的自然世界的呢?如果人类大脑有限的神经元可以解答无限的问题,那么深度学习AI解空间为什么不能消除长尾问题呢?

 

 

一、代数基本定理

“长尾问题”说的是有限多个解无法形成完备解,换句话说是有限次逼近无法得到收敛状态。

有限性完备性(完备根、完备基、完备解析、完备表达、完备参照系)似乎生来相互矛盾。仅仅依靠有限的计算机资源有限次运算,解答m元n次多项式(即深度学习模型的n阶m维张量)的特征解,究竟有无可能解答无限客观世界的完备特征属性?

首先,我们回顾关于特征根解完备性的基本定理。

代数基本定理:【任何复系数一元n次多项式 方程在复数域上至少有一根(n1),由此推出n次复系数多项式方程在复数域内有且只有n个根(重根按重数计算)。】

代数基本定理的几层意思:①一元n次多项式在复数域必有解(可解性);②一元n次多项式在复数域必有完备解(完备性);③如果系数和根不在同一空间域,取不到完备根;④扩域的本质是扩展特征空间的基系,即通过张量积张开表达空间;⑤如果系统存在无穷多个特征基,则对应的一元多项式的次数是无穷大。

 

表面看,无穷大次数的方程,似乎必然需要无穷多次运算。然而事实是,非也!

 

 

 

二、分裂域唯一性定理

群的本质是对称性变换,对称性大白话讲就是重复n次变换回到原状态,也就是循环群的生成元n阶复合回到原状态。因而特请注意,特征元无穷多次的乘积并不一定是无穷大很可能n阶复合回到原状态。特征元g重复n次变换回到原始状态,即gn=g0

其实,张量复合特征的坍塌缩并,是非常普遍的现象,否则我们就无法观测到量子态。

   

环的特征是其所有循环群的阶的最小公倍数,形象看对应于张量积最小公倍数,这确定了特征空间的特征基个数。

例如:

R=Z4Z5Z6

chR=4*5*6)最小公倍数=60

 

 

 

假如chF=0,即环F特征等于0,那么多项式f(x)的系数是数域。

比如,一元一次多项式(aX+b),其中系数ab是数域。

 

但是,假若上式中的系数ab不是数域(不是标量),而是含有特征属性的环(是张量)

比如:a=a1X1+b1),b=a2X2+b2

则有:(aX+b=a1X1+b1X+a2X2+b2= a1X1X+b1X+a2X2+b2

那么:得到32次多项式a1X1X+b1X+a2X2+b2

 

进而可以推知,一元一次多项式特征环,有可能与mn次多项式(即深度学习模型的nm维张量)同构。

Xn‌   X1n1X2n2X3n3...........Xjnj ,其中(n1+n2+n3......+nj=n

 

m个不同特征元相互相乘n次,复合体为:anXinYjn...Zkn

mn次方程长这个样子:a0 + a1Xi1Yj1...Zk1 + a2Xi2Yj2...Zk2 + a3Xi3Yj3...Zk3+ .............+ anXinYjn...Zkn = 0

深度学习的函数复合等同于向量乘法,然后求解向量乘法的张量解(通常转换为矩阵乘法),实质是求mn次多项式方程解。

 

 

 

既然上式是多项式特征环,我们很容易想到伽罗瓦理论‌。分裂域的概念在伽罗瓦理论中起到核心作用,通过研究分裂域的性质,可以判断方程的解的存在性和求解方法

 

分裂域唯一性定理对于给定的多项式f(x)和基域Ff(x)F上的分裂域是唯一的。这个定理的证明依赖于域同构和域扩张的概念,通过构造扩域链和同构映射来证明分裂域的唯一性。存在性:首先证明对于任何非零首一多项式,其分裂域存在归纳法证明从一次多项式开始逐步扩展到更高次的多项式唯一性:通过构造扩域链和同构映射,证明对于给定的多项式f(x)和基域F,其分裂域在同构的意义下是唯一的。具体来说,设EE1分别是f(x)FF1上的分裂域,通过构造同构映射η→E1,证明EE1在同构意义下是唯一的。

分裂域唯一性定理是代数基本定理的一个应用,它确保了多项式方程的根可以在一个唯一的扩域中找到,并且在同构的意义下是唯一的。这一性质对于理解代数结构和方程求解具有重要意义。

分裂域唯一性定理告诉我们,一层一层的特征子空间具有不变性,基于正规子群和特征子空间存在一一对应关系,特征空间不变性表达可以映射为群同构唯一性表达。

 

【伽罗瓦基本定理】商群Hi/Hi+1Gal(Ki+1/Ki) 同构。

①伽罗瓦定理:群与特征属性对应性,一个不变子群可以找到一个不变子特征根系与之对应,反之亦然。

诺特定理:对称与守恒的对应性,一个守恒定律可以找到一个对称与之对应,反之亦然。对偶复合空间守恒量。

这说明,起码在表达方式上,同一类事物具有唯一性。虽然同一类事物可能包含无穷无尽的个体数量,但是它们的表达方式是可以概括有限的。

深度学习人工智能通过多视角、多层次、多重参数调优,求取损失函数最小的最优解。无论梯度下降算法从什么角度切进去,得到最优解集总是唯一性的。

 

 

三、同态核定理

单扩张是指通过添加一个元素到较小的域中来构造较大的域的情况。具体来说,如果有一个域F和一个元素α,那么F添加α得到的子域记作F(α),这样的域扩张F(α)/F被称为单扩张。

对于任意的代数元α,存在F上的一个首一不可约多项式p(x),使得α是p(x)在F上的根。进一步地,存在F的单扩张L/F,使得α是L的一个元素,并且p(x)是α在F上的极小多项式。在同构的意义下,由同一首一不可约多项式定义的单扩张是唯一的,即如果L和L'都是F的单扩张,且都包含满足同一首一不可约多项式p(x)的根,那么L和L'在同构映射下是等价的。

例:¢⊃Q为扩域√2 ∈¢Q[x]上的极小多项式为(x^2-2)

         Q([√2]) ≌ Q[x]/(x^2-2)

 【解读:有实数域¢对有理数域Q的单扩张,其中添加的代数元是√2

换句话说,有理数域Q通过添加代数元√2,得到了实数域¢的一个子域,即Q([√2])

在这个单扩张中,√2满足多项式方程(x^2-2)=0,这是一个在Q上的首一不可约多项式。

根据单扩张定理,存在从Q到Q([√2])的域扩张,其中√2是Q([√2])的一个元素,并且(x^2-2)是√2在Q上的极小多项式。

这个单扩张是有限扩张,因为Q([√2])中的任一元素都可以表示为(a+b√2 )的形式,其中a,b∈Q。

这样,通过添加一个代数元到一个较小的域中,构造出一个较大的域扩张。】

   

【单扩张定理】 

E⊃F为扩域,f(x)∈F[x]a∈E的极小多项式生成的理想,则f(x)为不可约多项式。

并且,有域同构F[a]≌ (F[x]/(f(x))

【证明作环的满同态σF[x]→F[a],x→a             

设带余除法得到:g(×)=f(×)q(×)+r(×)

因为:f(x)为极小多项式生成的理想

又由于带余除法,得deg r(×)<deg f(×)

所以:r(a)∈Ker σ ,即r(×)=0

从而g(×)/f(×) = q(×) 

得到同构:F[a]≌ F[x]/(f(x) 

如果多项式(Y=aX+b)的余数b为“零”,则Y整除X。如果环上的特征属性都可以整除,则成为域(这通常不是数域,而是特征域。)注意:上述概念中的“域”概念,并不特指“数域”。如果多项式能整除数字,得到数字解;那么如果多项式整除主理想环,这样的多项式特征环又会有什么特点呢,能得到完备特征解吗?

伽罗瓦理论是否存在完备解的关键就是“整除”,可以整除则有解;子群全是素数阶,则有完备解 

柯西收敛N次逼近以后,误差趋于无穷小。对于多项式环而言,当余数(余环)趋于无穷小误差,多项式整除主理想得到商环。

本文关于不完备性定理和不确定性原理的探讨,主旨在于参照系的特征基是否完备性。不完备基系的观测存在不确定性、不完备基系得不到完备解、不完备基系无法度量收敛值;反之,完备基系可解得完备解、完备基系可以完备表达研究对象、完备基系可以收敛逼近真相值。

把一个一个的个体的复合问题,归纳而成一类问题,就是群论。群论把特征空间不变性转换为同构表达唯一性,群的最大作用是度量特征空间不变性,这隐含了广义收敛性。

 

‌同态核定理】若群G与群F同态,则同态核HG的不变子群,且商群G/HF同构。同态核(kernel)是原群中映射到新群的单位元的所有元素的集合,它是一个正规子群。同态核定理提供了一个将原群G通过同态核H约简到商群G/H的方法,商群G/HF同构。

本质上,同态核就是特征环上的“零”特征元。

  一切逻辑概念中的‘零’都是“相对0”,‘零’的概念只来源于系统的精度度量,‘零’就是系统的‘可容误差ε’,小于‘可容误差ε’的所有无穷小量都属于集合{},集合{}的所有元素0满足逻辑基本等式:

   如果 AB,则 AB

详见:《关于不完备性定理和不确定性原理的探讨(六)(4)》

同态核是正规子群,具有封闭性和收敛性。收敛与否的关键在于逻辑“零”,误差小于“逻辑零”,在可容误差范围内即收敛。深度学习的梯度下降算法就是促使综合误差(损失函数)尽可能小,达到“可容误差ε”范围内,逻辑上即逼近事实真相。柯西收敛N次逼近以后,误差趋于无穷小,这里的“可容误差ε”在逻辑上对应的概念正是‘零’。

transformer模型的算法,以最大概率(损失函数尽可能小)映射逐个加入特种元,本质是对客观世界特征属性(张量特征结构)的同态映射。也就是说,大模型的特征系与客观世界的特征系是同态的。并且,由于深度学习多隐层参数集标注,所以OpenAI生成了客观世界的多角度同态、多层次同态、多子特征多项式环的多重同态复合体GPTOpenAI以高阶张量特征元作为参照系,当特征根参数集足够大时(不需要无限大)似乎可达成特征完备性,此时chatGPT已然能很好解答常识问题。

Q*诞生而来的openAI GPTo1 颇有大家风范,遇事慢思考,三思而后行。不依赖人类知识图谱,吃一堑长一智试错,一次又一次推演得到更优化置信度,将误差逐次逼近收敛至逻辑自洽的可容误差“零”,从而映射到更深层宇宙规律AlphaZeroopenAI GPTo1 等自主学习、自我进化、自学成才并不奇怪。 

【直积定理】群H分解成不变子群H1*H2*H3......*Hs直积,则:

①H的不变子群Hs之间相互对易;

②H与其所有不变子群Hs同态。

通过有限个正规子群逼进客观世界真相,从部件同态再到整体同构宇宙图谱,谁敢说深度学习张量演算没有坚实理论依据?



https://blog.sciencenet.cn/blog-1666470-1453958.html

上一篇:关于不完备性定理和不确定性原理的探讨(十六)(9)
收藏 IP: 103.222.102.*| 热度|

1 朱爱军

该博文允许注册用户评论 请点击登录 评论 (3 个评论)

数据加载中...

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2024-10-19 23:23

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部