etreeasky的个人博客分享 http://blog.sciencenet.cn/u/etreeasky

博文

关于不完备性定理和不确定性原理的探讨(八)(7)

已有 5775 次阅读 2015-1-26 13:49 |系统分类:科研笔记

8.7 线性空间和manifold



 


 

   manifold英文原意为“多层”体(中国把这个词翻译为颇具文艺范的词“流形”,这个朦胧诗般的词语严重误导了大家对其本意“多层体”的理解)

  如果我们把线性空间看作一张平面板,那么manifold“流形”就可以形象的看作很多平面板络在一起的多层几何体。

wKhQolVhpumEZIhdAAAAAMseS1g278.jpg

     形象而言,manifold是一种由n层的a维线性空间叠放而成的‘a的n次方维’的多层次结构系统:


dc02.jpg



     如果多层平板叠放曲率较大,它可能是这个样子的:


timg (6).jpg


     也可能是这个样子的:


 


     isomap-graph.png



f7246b600c338744494abcab530fd9f9d62aa05e.jpg



      前几节我们探讨了,所有的深度学习模型的根本要点在于两个方面:

     1、提取一个层次的特征基系,线性组合之,相当于加法S =∑an

     2、在多个隐层提取不同层次特征基逐层复合之,相当乘法:f1(f2(f3(x)))= f1*f2*f3  



      第一,同一个层次的特征基系统 S =∑an,是一个线性空间,形象看就是一张平板。

      第二,如果这张平板通过线性变换(平移、伸缩、旋转)映射为另一张平板,相当于线性变换函数的复合作用f1(f2(f3(x)))。这是简化版的manifold“流形”结构。

dc02.jpg

       因为其中的平移、伸缩不改变特征方向(即不改变特征基,其线性变换相对简单),所以“流形”结构分析更重要的是探讨改变了特征方向的旋转变换(群生成元)。



171615yws2osyd48qs44i4.jpg




171553cn2uj2w9s42kwum4.jpg



9.gif














         爱因斯坦引入“流形”模型分析广义相对论,是经典物理学的巨大飞跃,逻辑深度远远超过牛顿线性空间参照系的局限性。

   流形多层体的特征基维度是a的n次方(拓扑上连续可微即n趋于1,此时a的n次方为2)。比如,广义相对论的闵氏广义黎曼空间是n阶4维张量(4的n次方维特征向量),相当于10维流形结构。


2116697560.jpg


    同样道理,深度学习模型多隐层的类似“流形”结构,也必将推动AI发展跨过线性空间参照系的局限性,飞跃全新的高度。



https://blog.sciencenet.cn/blog-1666470-862889.html

上一篇:关于不完备性定理和不确定性原理的探讨(八)(5)
下一篇:关于不完备性定理和不确定性原理的探讨(八)(8)
收藏 IP: 58.42.243.*| 热度|

2 crossludo yangb919

该博文允许注册用户评论 请点击登录 评论 (2 个评论)

数据加载中...
扫一扫,分享此博文

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2024-11-22 19:46

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部