博文
神经信息学中的几个关键问题
||
1. 引言
美国Sceince 杂志2006年编辑部文章【1】第一句话（而且是用特别大的字体）“COMPUTATIONAL NEUROSCIENCE IS NOW A MATURE FIELD OF RESEARCH”这句话的意思是，计算神经科学是成熟的研究领域。这句话仅仅局限与神经系统的动力学描述，也许可以这样理解，如果作为揭开神经信息本质这就需要讨论了。据英国媒体报道，瑞士洛桑联邦工学院科学家、“蓝脑计划”的主管亨利·马克拉姆表示，先进的功能性人造大脑将在10年内变成现实。
这两种断言一个是权威杂志发表的，一个是媒体报道的，也许我们不应该把它们放在一起。不管怎样，现在我们来讨论这些断言的正确性。
十年之内脑内信号过程的真正模型可以解决，这是否意味着现有的知识（数学理论、信息处理理论、物理理论、电子回路理论、系统理论、化学理论等）是完全能分析神经信息过程了。现有的人工智能能力远低于人的智能，如果十年之内可以解决，则十年之内人工智能也一定能达到人的智能。或者说，凭借现有知识我们有可能来构建数学模型，使此模型已经能描述脑的信息处理过程。看来是十分困难的。
根据我们研究，至少有两个问题需要讨论。1）稳定性问题2）定量问题。
1) 神经系统是个不稳定和不确定系统，文献【2】第一句话：Spike trains are unreliable.，“unreliable”的意思是不可信、不确定等意思，长期做实验的人也可体味到这样经验。文献【3】引证了很多文献(Tomko and Crapper, 1974【4】; Burns andWebb, 1976【5】; Tolhurst et al., 1983【6】; Snowden et al., 1992【7】;Britten et al., 1993【8】)，也说明在大脑皮层中出现的极不规则的脉冲序列,是不可能用同样的实验来重复得到的，这说明神经脉冲序列的不确定性。
诺贝尔奖获得者埃德尔曼（Gerald M. Edelman）指出【9】：我们已经反复强调，每一个脑的最突出的特点之一是它的个别性（individuality）和多变性（variability）。在脑的所有组织层次上都有这种多变性，这种多变性是如此之大，以至我们在寻求一种脑活动的物理理论时，不能把它仅仅当作噪声而不予考虑，或是忽略掉……这对于任何一个试图解释脑的总体功能的理论，都是一种极大的挑战……。他又进一步指出：“…这种千差万别使得每一个脑都是独一无二的。这些观察给基于指令和计算机之上的脑模型提出了根本性挑战……。” “脑不是计算机，……有人追求精确的神经编码，而实际上找不到” 【10】。
应该说Edelman对生物实际描述是正确的，正像每个人的指纹不同，每个人的虹膜结构不同，每个人的视网膜血管分布不同，这些不同常被用来作为识别每个人的生物特征。神经网络也应该是不一样。这也是为大部分生物学家所接受的。这就是结构上的不确定性。但是，Edelman由此所得出的结论和观点是可以讨论的。后来有不少专家对他提出种种评论。这就是对不确定性的认识问题。对这一问题不同的观点就有绝然不同的理解和方法。
在现有的工程技术观点认为不稳定是有害的，他们会想尽一切方法要避免不稳定。可是在我们研究经验中发现这种不稳定和不确定系统具有很大优越性：只有不稳定系统才有初值敏感性【11】，有了初值敏感性才能提高神经系统的灵敏性。而且越不稳定系统灵敏度越高。猫头鹰和人能区分5微秒的时间差【12】【13】。（一个神经脉冲宽度是一毫秒，5微秒＝5/1000 毫秒），5微秒的时间差与传感细胞灵敏度无关。完全要靠系统的灵敏度来实现；结构不确定的简并系统【14】将比其中任何子系统具有更强大的功能；另外，不稳定还有更深层次的意义。如：脑内Free will现象存在、灵感的突然出现、Eccles的微位理论要成立【15】等等，不可缺少的条件是系统不稳定。微小的量子效应要影响宏观的系统运动，不可缺少的条件也是系统不稳定。决策的随机性也有不稳定性的作用存在。
2）定量化分析
首先，从目前看神经元和神经网络的最好模型是H-H方程再加非线性动力学。脑内神经元所发放的神经电信号，基本上都可以用非线性动力学来描述，难怪Sceince编辑说计算神经科学是一成熟的领域【1】。可是仔细分析一下非线性动力学的理论基本上是定性分析理论【16】。
目前的认知科学理论基本上是以模式（Pattern）识别、聚类分析、统计、最优化等为基础的。从数学角度看这些方法也主要是属于定性分析。
其实神经系统信息过程是定量的。人和动物靠两耳接收声音的时间差来确定声源方向，它是定量的，实验做出结果，猫头鹰可以区别两耳信号5微秒的时间差【17】。蝙蝠要在灌木丛中区分树枝摆动和飞行小虫，只能靠多普勒效应的差别，要分析多普勒效应大小也只能靠定量分析，高清晰数字图像除了像素要多以外，更需要高位A/D变换器，高音质数字音乐也需要高位A/D变换器，人能区分图像是否是高清晰，要区分音乐是否是高质量，也需要精细的定量，人眼能分清千千万万种不同颜色，完全靠对红、绿、篮三种基本颜色敏感性的不同定量比例来决定。姚明要准确投蓝球也要靠定量来控制。任何正确的神经信息理论，都必须能解决上述所提出现象。定性理论是很难分析定量过程。特别在定量机理不清楚情况下，随便用定性方法常常会使人引入错误方向。
不稳定系统能定量地高灵敏地检测小信号吗？不稳定系统能实现高分辨率定量化？这是一个矛盾。这一矛盾不能解决，很难实现定量，也很难解决不稳定问题。也就很难认识神经信息过程。这应该说，这也是多年来神经信息研究一直没有很好发展的原因。因此总的看，十年内这两个问题不解决不可能真正得到脑模型。
2. S空间的引入。
为了解决上述矛盾，S空间理论是一个较好的方法。S空间理论实际上就是以前我们所提的“序空间”理论【14】【18】【19】。S空间理论不是凭空创造出来的。它是根据神经元中发现了圆映射规律，再加上符号动力学的理论得出。而圆映射理论和符号动力学都是成熟的理论。
一维S空间定义：S空间是对实空间略作改进。在实空间中，一条直线代表一维实空间，直线上每一个点表明一个实数，如果有两个不相等的实数x和y，则在实数轴上可用两个点表示，它具有两个特点：1）两点一定有大小之分，,如x>y (或y>x),2）x与y之间的距离║x,y║是一定的。S空间只是把2）这一条特性去掉，也就是说，距离║x,y║是不一定的。这就是一维的S空间。形象地说，实空间是把坐标轴放在刚体上，而S空间是把坐标轴变为橡皮筋。可以任意拉伸。
二维S空间定义：由两个一维的实数轴构成一个两维实数空间，同样由两个一维的S空间构成一个二维的S空间。形象地说，二维S空间，就是把二维的笛卡尔坐标由从刚体上移到弹性膜上来。弹性膜可以在两个方向上自由拉伸。当弹性膜的弹性系数为零是，弹性膜就成为刚体。S空间从新回到实空间。因此可以说S空间是实空间的推广，而实空间是S空间的特例。
S空间性质与不确定性。
1） 进入S空间，实际上是去掉第2）特性，已经是从确定性走向不确定性。 x>y (或y>x)是一不确定性的指标。因为符合不等式的有无穷多X和Y。
2） 定理1 S空间中所有上升（下降）的单调函数是等价的。
图1. 在序空间中，函数ƒ1, ƒ2和ƒ3被视为同一的。
证：
为不失一般性，设有如图1的三个单调上升函数ƒ1( )、ƒ2( )、ƒ3( )。
假定存在三个独立自变量有关系
X1<X2<X3. （1）
经函数ƒ1（）作用，得关系
y’1<y’2<y’3, （2）
(1)式和(2)式中对应值保持相同排序。ƒ2( )、ƒ3( )也具有同样的性质。在序空间中并不关心三者的绝对相差值是多少，只注意这三者之间的大小次序，所以就可以认为ƒ1( )、ƒ2( )、ƒ3( )三函数是等效的。ƒ1( )、ƒ2( )、ƒ3( )可理解为同一函数在不同的坐标轴拉伸下的变形。
3） 对于复合函数中单调性不变原理。如有复合函数ƒ1•ƒ2•ƒ3•……ƒn（），其中参数任意变化。只要保持每一个单一函数ƒi单调性不变，则复合函数ƒ1•ƒ2•ƒ3•……ƒn（）的单调性也不变。
3. 脑和神经系统是在S空间中进行信息处理的。
4. S空间中的不变性与统计不变性
目前对于不稳定和不确定系统分析唯一的方法是采用统计方法（当然现在已经发展出很多的统计方法，如统计平均、相关、中心Patter理论、聚类分析、参数估计、模式识别、人工神经网络、模式识别以及各种统计指标如李亚普诺夫指数、分维数、复杂性指标等）。希望从统计中找到不变的规律，追求统计上的不变性。可是S空间中的规律一般不符合统计规律。从图1就可以知到，三个函数实际上可以任意确定，所以一般它不会符合统计规律，在这样的函数作用下其结果也不符合统计规律。因此可以说：S空间的不变性和统计不变性是两会事。用S空间来处理不确定性，实际上跳出了统计的范畴。
5. S空间研究进展
按S空间理论，建立了很多模型，嗅觉模型，听觉模型，生物声纳模型【18】【19】【14】等。这写模型都是用统一的理论建立起来的。都有较高的分辨率，听觉和嗅觉系统结构上看完全不同，但是信息处理的原理是一致的，只是听觉信号多了时间结构
6. 对于“简并”的解释
承认神经系统结构上的不确定性，承认每一个脑的结构都是世界上独一无二的。就应该认识到神经回路中存在“简并性”(degenerasy).否则我们就无法了解神经回路。对于神经系统来说，简并性是指不同结构的神经回路能产生相同的功能，由这些回路所组成的系统称为具有兼并性系统，Edelman 又把它称为“选择性系统”. 在神经系统中，即使在一个脑区中也有大量各种变异的神经回路，只因它们存在简并性，才使该区神经系统能够正常工作。
电子线路可采用相同电路作为备份来提高电路的可靠性，但整个回路功能与单个回路完全一样。神经系统不可能大量复制相同回路，要提高系统的可靠性只能靠简并性，具有简并性的神经回路不仅能提高可靠性，还能大大增加脑的信息处理适应能力。神经系统在处理同一信息时采用简并性，是利用不同回路的共性，但它们还有不同的个性。在不同环境
中对同样信息可能有不同的处理要求，对于同一信号的处理目的不同，也会有不同要求，神经系统处理能力的扩大可以在不同回路的个性中体现出来，使神经系统大大提高信息处理的适应能力。 人脑的信息处理能力为什么会远超计算机，简并性的存在也许是问题的关键。
“简并性”(degenerasy)是量子力学中的概念， Edelman 在《神经达尔文主义》一书中揭示了神经系统中存在简并性现象，提出了生物体内从分子一直到免疫系统和神经系统都存在“简并”现象。他的理论被认为是20 世纪80年代以来理论神经科学最重要的进展之一, 应该说这一评价是正确的。但是他的理论没有说清楚关于神经系统中简并的形式和作用。 这是这一理论难以发展的根本原因，因此也受到了不少人的质疑， 有人曾试图在神经回路上具体地把简并性体现出来，文献【21】具体讨论了运动神经系统简并性神经回路，采用脉冲序列分布（pattern）来分析运动神经输出, 这是合理的，因为输出的(pattern) 不同，会造成运动肌肉收缩的节律不同, 这与神经编码关系不大，易于讨论, 要真正分析脑和神经系统的简并性，仅仅分析运动神经是不够的，更重要的是对输入回路、信息处理回路的简并性讨论, 这方面的研究还未见报道，因为讨论输入回路的简并和神经网络内部的简并问题就会涉及信息在神经系统中的编码难题.有了S空间编码。可以从两个方面 来讨论：1）对于某一功能有哪些回路可以实现？也就是怎样的一些回路具有相同功能？2）这些回路输出信号如何被综合、简并？下面我们分别来讨论这两个问题,第一个问题直接影响到我们对简并的认识, 神经系统中怎样一类神经回路具有相同功能？在整个神经系统中除感受器以外，神经元的兴奋方式就是动作电位，最基本的生理特征是神经脉冲和脉冲序列! 按简并的定义，要使不同的神经回路具有同样的功能，就意味着不同神经回路在同样的输入条件下，要有同样的神经脉冲序列输出! 而且，随着输入的变化，不同神经回路输出的变化规律相同,在生物系统中，同样的神经回路，在同样的刺激下其输出已很难保持相同，更不用说不同的神经回路在同样条件下保证有相同的输出.因此，另一种可能解释就是虽然脉冲序列不同，但可以提取相同的特征量! 用相同的特征量来保证相同功能! 如何提取特征量，就成为涉及到神经编码的根本问题.S空间编码理论【19】可以较好地考虑这一问题.
首先，可知神经脉冲是可排序的! 因此，不同的神经回路输入、输出的关系，可被理解为具有各种各样量的大小的函数关系，输入、输出的变化规律要保证完全相同，意味着输入、输出之间的函数关系（或映射关系）相同，这是很难实现的! 从S空间看，照定理1，输入、输出之间只要保持单调性变化规律相同，就可被认为是同一的! 要使单调性变化达到一致的网络有很多! 因此，我们认为，S空间编码理论可较好地分析神经回路中的简并性!
.
图3 ITD的简并性回路
不同功能应该有不同的简并回路。这里主要讨论两耳时间差（ITD）的模型，如图3所示【14】,这就是两耳时间差检测简并性回路。n1、n2、n3…..nn n’1、n’2、n’3…..n’n分别表示两耳的输入神经元。如果把hi及其hi以上上游细胞直到n和n’层的细胞连在一起，它就是一个独立的两耳时间差的神经检测回路。图中H层中共有18细胞，也就是有18个不同结构的神经回路合在一起。H和D层分别表示时间差检出细胞层和简并后输出细胞层。它符合Edelman所提出的简并原理【9】，只要保留两耳都有神经元存在，系统中可以任意去掉一些神经元，整个系统功能没有变。
第二个问题是如何被综合、被“简并”。按edelman理论，这十八个回路是按达尔文选择理论来进行现在使用的，所以被称为神经达尔文主义。如果这是这样的话，不用的回路就会逐渐退化而萎缩掉。看来这不符合身无实际。我们的观点这十几个回路都在使用。简并方法很简单只要进行S空间家法就行， D层细胞都是简并细胞，如果中一个细胞它要简并n个信号，可用一个（3）式表示。
Y=x1+x2+xn……+xn （3）
其中x1……xn表示来自n个细胞的输出。Y表示为简并后输出。Xi为单调向上变量数，则Y也使单调向上单调向上。在这里任意去掉几个xi不影响Y输出。但是Y的特性却比任意一个xi都好。因为这些回路都不是线性系统，所以对输入的灵敏性不会在整个输入信号强弱范围内是均匀的。当输入的相位差在某一范围内xi灵敏度较低，可能在另一xj处灵敏度较高。则y同样能反映出较高灵敏度。由于n较多，则y可以表现出较大范围内的高灵敏。这也反映了简并系统将优于每一个子系统。
如果我们把大部分细胞都去掉，留下n1、n’1以及h8h9h10h11h12h13h15,这就是60多年来被大家广泛承认的Jefferess模型（见图4）【19】。
图4 Jefferess模型（ITD）
图3完全是按理论任意画出的回路，这种回路还可以画出成千上万个，有趣的是Jefferss模型也包括在内。不管Jefferess模型是否存在缺点，至少此模型被很多生物学家所承认，经过了60多年后还在研究，而且有文献说它有生物学的根据【22】【23】。这是否说简并回路是符合生物实际的。更有意思的是同一回路有两种不同解释，而我们的解释灵敏度高, 而且可靠性（冗余度）也高【14】，应该更符合生物实际。
7. 用S空间理论分析人工智能
有了S空间理论，使我们对人工智能中学习方法也有了不同看法。我们初步作了语音识别分析，现有的语音识别方法，不管方法有多好，总需有一个语音数据库作为学习用。需要大量数据库来进行统计，并从中得到具有“代表性”的或“中心pattern”模式，“从而学到需要知识”。可是小孩学会听大人说话或成人学外语，只要能听懂一人说话就能听懂其他人说话。能听懂男人说话就能听懂女人说话。
根据我们初步试验体会，认为人的语音（无论汉语、英语）和文字（无论中文和英文）都是符合S空间原理的。也许由于人们已经意识到人的神经系统是在S空间中工作的规律。所以语音和文字创造也要符合这一规律,便于学习。否则人就听不懂。
每一人的发音器官结构是一样的，所以如果有一个正确的数学模型，则模型应该是一样的，不同的人表现在系统参数上不一样，根据S空间中系统单调性不变原理，这些参数的变化不改变每一单元的单调性，则整个输出波形虽然有很大变化，但是从S空间看它是没有变，也就是从S空间中取特证量是不变的。这也可解释成人学外语不需要大量数据库的原因。
8. 结束语
上述分析可知在神经信息研究中要考虑神经系统的不稳定和不确定性，同时也要考虑到神经信息的定量特性，这两者看来是有矛盾的，但是这又是生物实际。这是一个观念问题。它至少向我们提出了这样一个问题。稳定的确定性的观点应该向不稳定和不确定观点转变。这一问题的解决，才能使神经信息有一突破。S空间的提出是在这样的情况下提出的，它可用来解决这一矛盾。但是S空间理论是很初步的，
有了S空间的思想就更能理解Prigogine的观点：我们正处在科学史中的一个转折点上。我们走到了伽利略和牛顿所开辟的道路的尽头。他们给我们描绘了一个时间可逆的确定性宇宙的图景。我们现在却看到确定性的腐朽和物理学定律新表述的诞生【24】。
参考资料
【1】 Editorial, Of Bytes and Brains ，Science Vol. 314 6 OCTO. 2006 p 75
【2】 Conor Houghton Studying spike trains using a van Rossum metric with a synapse-like filter J Comput Neurosci (2009) 26:149–155
【3】 Arunava Banerjee， On the sensitive dependence on initial conditions of the dynamics of networks of spiking neurons， J Comput Neurosci (2006) 20:321–348
【4】 [7]Tomko G, Crapper D Neuronal variability: non-stationary responses to identical visual stimuli. Brain Research 79 (1974): 405– 418.
【5】 Burns BD, Webb AC The spontaneous activity of neurones in the cat’s cerebral cortex. Proceedings of the Royal Society of
【6】 Tolhurst DJ, Movshon JA, Dean AF The statistical reliability of signals in single neurons in cat and monkey visual cortex. Vision Research 23 (1983): 775–785.
【7】 [10]Snowden RJ, Treue S, Andersen RA, The response of neurons in areas V1 andMT of the alert rhesus monkey to moving random dot patterns. Experimental Brain Research 88(1992): 389–400.
【8】 Britten KH,
【9】 Edelman G. M. A Universe of Consciousness ,Basic Books New Yark 2000 （中译本）意识的宇宙 上海科技出版社2003 脑的不确定性
【10】 Edelman Edelman G. M. Neural Darwinism , Basic Book New York 1987 神经达尔文主义
【11】 Banerjee A，On the sensitive dependence on initial conditions of the dynamics of networks of spiking neurons, J. Comput. Neurosci, 2006, 20:321–348
【12】 从细胞到脑J.G. Nicholls, A.R. Martin,B.G. Wallace, P.A. Fuchs , From Neuron to Brain , Fourth Edition, Copyright ©2001 by Sinauer Associates, Inc
【13】 Konishi 5微秒Konishi M. Listening with two ears. Scientific American,1993,268(4):34~41
【14】 张宏 刘淑芳 钱鸣奇 童勤业 神经系统的简并性与序空间编码分析! 物理学报 Vol.85 No.10 (2009)7322-7329
【15】 John C. Eccles , Evolution of the Brain: Creation of the self 脑的进化－自我意识的创新 上海科技教育出版社 2005
【16】 Eugene M. Izhikevich_ et.al , Neural Excitability, Spiking and Bursting, Int. J. of Bifurcation and Chaos, Vol. 10, No. 6 (2000) 1171-1266
【17】 Konishi M. Listening with two ears. Scientific American,1993,268(4):34~41
【18】 张宏, 方路平, 童勤业. 海豚等动物神经系统处理多普勒效应的一种可能性方案. 物理学报，2007,56(12)7339~7345
【19】 童勤业 钱鸣奇 李绪等 ，嗅觉神经系统脉冲编码的机理研究， 中国科学E 信息科学 （2006）36（4） 449－466
【20】 张宏 莫珏 童勤业 海豚的神经系统是如何利用声波定向的？ 生物物理学报 Vol. 23 No.6. (2007) (455-462)
【21】 运动神经简并Hillel J Chiel, Randall D Beer, John C Gallagher, Evolution and analysis of model CPGs for walking:
【22】 C. E. Carr and M. Konishi ，A Circuit for Detection of Interaural Time Differences in the Brain Stem of the Barn Owl, The J. of Neuroscience, October 1990. 70(10): 3227-3246
【23】 David McAlpine and Benedikt Grothe, Sound localization and delay lines – do mammals fit the model? TRENDS in Neurosciences Vol.26 No.7 July 2003 347-350
【24】 I. Prigogine 1999 The End of Certainty: Time, Chaos,and the New Laws of Nature [伊.普利高津 1999 确定性的终结(上海:上海科技教育出版社)]
https://blog.sciencenet.cn/blog-261566-323502.html
上一篇：大力开展计算神经科学研究
下一篇：从“大思想”谈起
