王飞跃的个人博客分享 http://blog.sciencenet.cn/u/王飞跃

博文

机器崛起:重现的自动化愿景 精选

已有 14172 次阅读 2017-4-19 08:40 |个人分类:书海拾贝|系统分类:科研笔记|关键词:机器崛起,机器智能,人工智能,自动化,赛博| 人工智能, 自动化, 赛博, 机器智能, 机器崛起

机器崛起:重现的自动化愿景

王飞跃


毫无疑问,《Rise of the Machine》是我近年来读到的最好一本著作。除了消耗时间之外,此书的翻译和校对过程给人以轻松、畅想、愉快的享受,而且常常伴有“原来如此!竟然这样!怎么会呢?等惊叹和无奈。借用美国国家安全和中央情报局前负责人的话:在这本书里,作者托马斯·瑞德巧妙地以作家的艺术、历史学家的严谨、哲学家的敏感揭露了赛博这东西已经并将继续颠覆人类感觉和认知的各个方面此书不仅仅是精神食粮,更是一场思维盛宴。英国前安全情报协调专员和最高情报机构负责人,亲历月光谜案的欧蒙爵士称本书为历史学家和记者之类设定了一种新的叙事标准。一位美国空军赛博战的前负责人讲得更干脆:它将成为经典!(It will be a classic.


然而,作为一名长期从事控制与自动化研究的科技工作者,自己还有额外的感叹和思考:控制论的天地原来如此之广阔,可为何今天却如此落魄,连自己的辉煌历史都被人遗忘?控制理论与控制论到底是什么关系?把Cybernetics译成中文控制论是利大于弊还是弊大于利?控制论同自动化又是什么关系?这关系是从控制论与控制理论的关系衍生出来的还是它们之间本身就有什么更加深刻的内在关联?显然,在赛博(Cyber)到底是什么意思都无法确定的情况下,对这些问题的回答也只能是仁者见仁、智者见智。但个人总摆脱不了一种无法释然的感觉:似乎这么多年自己的努力和辛苦,只是在一条极其宽阔的大道上又修了一个小巷,筑了一个小院,结果在里面把凤凰养成了鸡,把狮子训成了猫。唯一可以安慰的是,鸡的社会经济价值远大于凤凰,猫的人文关怀作用更远胜于狮子。

回想三十多年前,当我刚由力学转入控制领域时,曾有两个困惑:一个是文学上的为什么钱学森要将其专著称为《工程控制论》,难道控制不就是关于工程吗?一个是数学上的控制教程书上讲的闭环反馈控制,其实从数学上看完全是开环的设定控制,特别对于确定性系统,反馈仅仅是形式上的,实质上根本没有任何反馈,但为何却称反馈控制呢?

第一个困惑很快就解除了:钱学森在《工程控制论》开篇的第一段就解释说[1],Cybernetics一词首先由法国物理学家安培在《论科学的哲学》中采用,为法语Cybernetique,意思是国务管理(Civil Government,自然属于社会科学的范畴。而且,之前诺伯特·维纳的《控制论》之副标题是:关于在动物和机器之中的控制与通信的学科,又把控制论从社会科学扩展到生物学和机器智能(即人工智能或认知科学)了[2]。相信这就是为什么钱学森要在其开创性的控制论前冠以工程二字的原因,也是为什么形式上在《工程控制论》里我们可以看到现代控制的框架和公式,但在维纳的《控制论》中几乎看不到现代控制的任何影子。本来,最初有把Cybernetics译成中文机械大脑论的提议[3],其实这至少能表述原文75%的含义,但控制论似乎只能传递原意的25%

正是因为自己的这一认识,大约五六年前,在IEEE[4] SMC(系统、人、控制论,全称为Systems, Man, and Cybernetics)学会的一次理事会上,我对东欧学者提出设立“Social Cybernetics”技术委员会表示反对,因为控制论本来就是关于社会的,建议取名计算社会系统,并结合社会计算,创办一份计算社会系统IEEE汇刊[5]

但第二个困惑却困扰了我许多年,最后才顿悟般地弄明白:原来,所谓反馈,其实不在数学方程的形式或意义里面,而在其工程实施的实践和效果之中!所以,反馈必须在数学之外去理解,否则对于确定性系统而言,数学上就是根本没有反馈的开环控制。我曾问过一些控制专业的学生,还有教过控制理论和控制工程课程多年的老师,许多都不认识甚至不理解这一点。然而,正是反馈思想的这一独特的引入方式,才是维纳《控制论》对现代控制理论的最大贡献;而钱学森的《工程控制论》就是针对机电系统,使隐式的反馈变成数学和工程上的显式反馈机制[6]

实际上,维纳的最大贡献可能是将机电伺服系统的物理反馈现象推广为生理神经上的目标行为purposeful behaviors)和哲学上的循环因果律circular causality)及循环逻辑circular logic),认为人类、生物和智能机器等都是通过由负反馈和循环因果律逻辑来控制的目标行为(purposeful action governed by negative feedback and the logic of circular causality实现其目的[7]。这与当时在科学中居统治地位的因果范式冲突,但形成了控制论的思想基础。正在这一基础之上,再加上1943麦卡洛特波特关于神经系统固有思维逻辑运算的革命性文章[8],才有了后来的控制论小组梅西系列会议,最后正式诞生控制论这一领域。



回顾历史我们发现,维纳获得巨大成功的专著《控制论》是在巴黎的一次随机酒吧访问的随机谈话而导致的一份随机的合同及其随机产生的后果而已!当时无人——包括维纳和其墨西哥裔法国的出版商——将其严肃对待,结果最后《控制论》一书的版权却成了麻省理工学院(The MIT Press出版社和法国出版商竞相争夺的目标,历史就是如此有趣![9]

更令人想不到的是,《控制论》的出版会引发社会如此大的反响和意外反馈:军事上的赛博战争出现了,文化上的赛博朋克露头了,社交上的赛博社区涌现了,.....,最后是今天的互联网、物联网、赛博空间,等等,结果人人在问赛博到底什么含义?人人似乎都有答案,但没有人能讲清楚赛博是什么,谁知道明天又会出现什么?显然,就像当年自己对数学上反馈的困惑一样,理解赛博,必须理解其含义之外的含义。

对今人而言,控制论引发的最大成果和现象可能就是眼下火热的人工智能、AlphaGo围棋人机大战日益兴起的智能技术(IT)和智能产业。其实,人工智能本来就是作为机械大脑和机械认知的控制论而涌现的,是1955年,年轻约翰·麦卡锡为了避免与维纳的纠缠,避免使用控制论而想出的新词,进而有了1956年里程碑式的达特矛斯人工智能研讨会,从此人工智能作为一个正式独立的研究领域面世。麦卡锡和同事尼尔斯•尼尔森(Nils Nilsson后来对人工智能作出了的另一解释:

AI = Automation of Intelligence

(智能的自动化)

该见解更是与维纳的控制论思想一脉相承,也解释了从工程角度,人工智能的实质就是知识自动化[10]。这样的认识,有助于消除关于人工智能威胁人类的顾虑及所谓的奇点理论给社会带来的困惑。这种困惑大约200年前蒸汽机发明60多年前控制论与计算机出现时都曾一度流行,但历史证明其与事实不符,过度担心是不必的。当然,技术是把双刃剑,人工智能也是如此,我们必须适度思考并应对其负面影响。



在《历史的起源与目标》一书中,德国学者卡尔·雅斯贝斯曾将公元前800200600年人类文化的突破称之为轴心时代”[11]。这就是以中国、印度、希腊和古中东文明所代表的世界范围的哲学突破、宗教的兴起和农业文明的巩固。当代一些社会学者认为人类社会刚刚进入第二轴心时代。但作为一名技术人员,我更倾向于人类社会即将走完第二轴心时代。始于14世纪中的文艺复兴,终于20世纪的现代物理学和现代数学,差不多也是600年时间。在第二轴心时代,我们经历科学突破,以殖民和贸易为特征的负和零和全球化以及工业社会的出现及成熟。翻译完《机器崛起》,我相信人类正进入第三轴心时代,始于量子力学、相对论和哥德尔的不完备性定理所引发的人类对物性、人性和理性的重新认识,以及随之而来的计算机、互联网、机器人等新技术和控制论、人工智能、智能科学等新学科。或许,时下的反全球化就是第二轴心时代的一次回光返照,以资源优化、智力调配、人机结合、虚实一体为特征的新一轮多赢正和智能全球化已经开始了,人类将在第三轴心时代进入智业社会。

在第一轴心时代,人类解放了物之力,实现了农业文明,基本解决了社会上资源不对称的问题;在第二轴心时代,人类解放了能之力,实现了工业文明,基本解决了人们之间信息不对称的问题;在第三轴心时代,人类将解放智之力,充分利用赛博空间,使全球化由负和零和走向正和,进入智业文明,最终解决我们之间的智力不对称问题[12]


因此,以人工智能和机器人为代表的智能技术是时代的呼唤,对此我们要有激动之心;智能科学是多少前辈科学家努力的结果,是科学发展的必然,对此我们要有敬畏之心[13];智能科技同其它科技一样,是把双刃剑,既能造福人类,但用不好也会对人类造成伤害,对此我们要有平常之心。

《机器崛起》是关于控制论之遗失的历史,但却为我们重现了一幅自动化的辉煌愿景。从我个人的角度,我希望给本书再加上三个小小的遗失。一是维纳与Cyberspace和虚拟现实的发源地赖特帕-特森(Wright—Patterson)空军基地的一段趣事二是在控制论思想萌、形成、发展中一位中国人的重要作用三是控制论理念在一个第三世界国家的社会政治实践

1953年,MIT的博士生阿玛尔·博斯(Amar Bose被电子研究实验室(RLE)主任杰罗姆·韦斯纳(Jerome Wiesner指定负责与维纳联系。不久,维纳要求博斯替他去做一个重要讲座,因为维纳觉得自己的社会地位和公开的观点使他无法接受这一邀请,但内心又很想去。维纳对博斯说:赖特帕特森基地有位将军请我去介绍我的理论,你替我去讲吧。可几周过去,博斯再没听维纳提及此事。一天见到博斯,维纳说赖特帕-特森基地那个人办事不靠,还没联系好。又过了几天,另一位博士生见维纳在系里的信件收发室里撅着屁股翻着大邮筐,满地都是从里飞出来的信件。原来,维纳丢了基地的邀请信且忘了那位将军的名字。很快,博斯从维纳秘书那里接到电话:他刚口述了一封信,要求在地址上写:致俄亥俄州戴顿赖特-帕特森空军基地给诺伯特·维纳写信的人,我该怎么办?博斯告诉:你小的时候没给圣诞老人写过信吗?就那么办。结果,此事再无音信,当然讲座也没有办成

当时,赖特-帕特森空军基地是美军先进武器的研究中心。很久之后的1984年,美军公开宣布他们终于悟出不但改变战争形态同时也改变世界科技空间概念虚拟现实技术,这就是赖特-帕特森基地所描述的视觉耦合机载系统模拟器(VCASS)。可惜,维纳与赖特-帕特森空军基地失之交臂,此时已去世正整整20年了。否则,他一定会更感自豪:尽管二战期间其控制论没有像他一直暗示的那样发挥了重大的作用,现在,他的《控制论》终于在军事上有了不可动摇的历史地位!实际上维纳在讲座一事上表现的态度,不但与其身世、性格和经历相关,更与他的首位中国学生李郁荣(Yuk Wing Lee)密切相联。

李郁荣是广东新会人,1904年生于澳门,1930年在MIT获得博士学位,导师就是维纳[14]。他是华人系统学习研究现代通信和控制的第一人,他的工作催生了维纳的控制论思考,并在后期发展维纳控制论的理论及工程应用方面,做出了极大的贡献。维纳本人也十分看重与李郁荣的合作,认为李郁荣的稳重与判断力正是自己需要的,李郁荣是自己进入工程应用的桥梁,并与李郁荣完成了他的第一个网络专利。实际上,这也是1936年维纳来清华任教一年的主要原因之一,因为离开了李,他在电路网络方面的研究进展大大受挫,一筹莫展。在清华大学,他们取得更多的进展,加深了维纳对反馈作用、意义及其复杂性的理解。他们还提出了离散计算机的设想,并安排清华大学MIT购买相应设备器件,可惜因种种原因时任MIT工学院院长的布什否定。此外,维纳在清华还帮助华罗庚前往英国过去的老师哈代处深造,使华罗庚在国际数学界显露头角。维纳自己认为,在清华大学的一年,才是控制论思想萌的一年。

其实,李郁荣随维纳学习之初十分困难。开始时,按维纳的理论设计电路总行不通。跑去找维纳,说理论一定什么地方不对。好在李郁荣没有放弃,不断的试,一年之后,才算明白维纳在说什么,终于成功!他们的柔性网络在当时具有革命性的突破意义,以致无人相信博斯是李郁荣的博士生,他后来转述了李郁荣博士论文答辩的火爆场面:电机系里20名教授全都来,他们根本不理解李郁荣在做什么,弄不明白为何对一个清清楚楚的电路搞上一堆不知所云的复杂数学公式,而且除了维纳保证这些式子是对的,就是李郁荣自己也说不清它们是什么意思。原来,李按照维纳的指导,第一次将拉盖尔函数用于电路分析,还首次使用今日电路和控制通用的术语综合Synthesis并开创性地把希尔伯特变换关系用于工程分析,发明了著名的Lee-Wiener网络。因为不是数学家,李郁荣有些地方并没有吃透,而且维纳似乎也没花多少时间去思考并指导李郁荣。结果,大家 猛轰李郁荣不停向他提问,使他几乎无法招架。最后,年轻的教授维纳站起来说:先生们,我建议你们把论文带回家好好研究一下,你们会发现它是对的!维纳的话结束了李郁荣答辩,但通过还是失败没有结果。

周之后,李郁荣在惴惴不安中收到系里寄来的小纸条,上面写着:你过了。(You passed. 博斯为此愤愤不平,认为这些教授欠李郁荣和维纳一个道歉:他们应祝贺二位并赞扬其巨大贡献,这是电机工程领域里程碑的工作,从此为现代通信工程打下了理论和应用基础。


博士毕业之后,李郁荣身为中国人很难找到工作,尽管维纳非常想把他留在MIT或在美工作,极力推荐,但最后李郁荣只好回到上海,后赴清华教书,最先要做的一件事就是请维纳来华访问。在清华,维纳收到了AT&T的信,要买他和李郁荣的专利。为了使专利尽快得到应用,维纳决定忍痛以5千美元的低价把专利卖了,以为产品上市后一定还会分到更多的利润。没想到,AT&T买他们的专利的目的是为了将其束之高阁,打开他们自己专利的市场,消灭竞争。从此,他们再也没从专利得到分文。这件事,让维纳痛恨AT&T和大公司,从此开始失去对大组织的信任。

1942年初,维纳向军方提交了他关于防空火力控制的研究报告,名为稳态时间序列的外插内插和平滑。里面满是复杂的数学公式。报告很快被相关部门负责人瓦伦•韦弗(也是一个数学家)用亮的黄色封面装订起来,被称为“黄祸”并标为机密,仅在有一定密级的人员中传阅。战后1948年,香农和韦弗出版了《通信的数学理论》(也是一部经典),维纳认为该作利用了他的研究成果,至少受启发,而维纳的报告却迟迟没有解密,直到1949年才正式发表。维纳一直坚信他的理论可以在次世界大战中发挥重要作用,但却被官僚封杀,自此更对政府和军方失去信心。这就是为何他在战后声称不再接收大公司、军方和政府的研究经费资助,并公开发表反战声明的一个原因,也是他心想去赖特-帕特森空军基地但不自己前往的原因。

从历史资料看来,维纳与李郁荣和博斯这些低调微不足道的人共事时最快乐高产。维纳后来帮助李郁荣在MIT找到位置,但李郁荣和夫人因抗日战争爆发滞留上海,最后靠开古董店和当年AT&T的专利费维生。战后他们得以赴美,在MIT为推广维纳理论的应用不遗余力,成果卓然,形成当时名震世界的通信统计理论学派,并在MIT开课,其讲座影响广泛。李郁荣的学生中有许多留在MIT执教,他们都是现代控制和通信历史上赫赫有名的权威,其中两人创办了今天仍十分有名的Teledyne公司Bose公司。至此,李郁荣总算回报了当年MIT电机系教授们对他的博士论文的礼遇


:李郁荣主持的MIT夏季讲座使维纳的理论广为传播,成为现代通信的基础。

摄于1954年,维纳身边分别是李郁荣和香农)[15]

身为第二代孟加拉裔的美国人,博斯是李郁荣一位富有传奇色彩的学生,也是他的第一个博士生。当年,李要Bose研究维纳的非线性理论论文和笔记,但花了十个月博斯还弄不清维纳到底在讲什么。每次问李郁荣,李郁荣告诉他:坚持,会来的。(Keep on it, it will come. 一次李郁荣告诉博斯,有个数学的国际会议将在MIT召开,让他去讲维纳的理论。在此之前,博斯从未做过学术报告,而且不懂要讲的东西,真的吓坏了。会议召开的两周之前,终于觉得明白了,结果博斯的报告被会议高度评价,连维纳也非常满意,这段经历也成了博斯最宝贵的学习体验。

:黑板前的师生三代李郁荣、博斯和维纳在MlT (同引自注15)[16]

当年,博斯因为难以向大公司推销他的音响技术而苦闷,去向李郁荣诉说。李郁荣用自己开古董店的经验告诉博斯每一个古董商的梦想就是有一天一个极有价值的东西能来到手中,而且能被认出来并抓牢,不让它跑掉。尽管李郁荣没再讲什么,波斯明白了:他不应该再去找大公司了,自己干!今天,Bose公司已是世界上最著名的音响设备商,李郁荣就是它的催生者

李郁荣的一生朴实低调,婚后无子女其夫人是加拿大人,著有A Letter to My Aunt 记录其中国的艰难经历。1969年退休后加州生活,于1989118日去世。今天,李郁荣教授差不多已被完全遗忘,令人感叹。我曾电话瑞德,讲述此事,希望他能在中文版序中讲一下李郁荣的故事。瑞德对此也十分感兴趣,要了相关材料感谢他在言中提及了李郁荣的亊迹。

最后一个“遗失”,是早已被大家忘记的20世纪70年代智利总统阿连德的赛博协同工程Project Cybersyn——一场来自南美洲的控制论革命。作为智利的第一个民选总统,阿连德重用年轻的弗洛雷斯,试图在远离冷战大国的南半球,走出一条抗衡东西方意识形态对峙的第三条道路,即智利特色的民主社会主义道路

为此,弗洛雷斯在英国控制论学者比尔的身上看到了希望,邀请他赴智利把控制论应用于一个国家的管理,成就了一段几乎是天方夜谭般的赛博故事。比尔为智利设计赛博协同控制工程工程指挥中心,希望由此通过信息充分交换的国家联网系统,将国家行政和长期计划转为日常决策和实时行动:不像苏联那样将计划产量从中央向下逐级指派,也不像美国那样依靠自由市场调节,而是一种去中心化、非官僚式,既保证企业和社会的自主性又能实现快速实时干预的经济政策


:智利阿连德总统的赛博协同控制工程指挥中心操作室还原图[17]

历史表明,在当时的技术水平下,这是一场大数据和控制论的乌托邦梦想。阿连德的尝试失败了,最后自己也在军事政变中饮弹身亡。有兴趣深究的读者,可细品梅迪纳的《控制论的革命者: 阿连德智利的技术与政治》。

翻译和校订此书是一次令人愉悦和心动的经历,引发了自己许多的历史回顾和更多的未来畅想。在此,我十分感谢王晓、郑心湖、梁侨、王赛等同事为本书的翻译及校对工作所付出的努力中国科学院院士贺福初教授中国工程院院士戴浩教授以及中国指挥与控制学会副理事长兼秘书长秦继荣教授在翻译过程中给予了大力的支持和帮助,并对译稿提出了许多非常宝贵的修改意见中国工程院院士孙优贤教授、桂卫华教授驭势创始人吴甘沙博士以及新智元创始人杨静女士对本书倾情推荐。瑞德教授本人提供了书中所用的图片原稿,他对中文译稿也寄予了深的希望并在翻译过程中给予了大力的支持。王晓博士以及她所带领的平行工作室,为本书的翻译付出了大量的心血。在这一年中,她同时将自己的博士课题应用于社会化营销,创建了德先生微信自媒体平台,目前已初具规模。《机器崛起》一书的扩展阅读、推荐序与书评也将在德先生进行首发,感兴趣的读者可多关注。

感谢中国自动化学会、中国指挥与控制学会、机械工业出版社麻省理工科技评论、新智元为推动本书的出版付出的所有努力希望本书能帮助读者更加深入的理解当前的自动化和智能科技及其对人类社会的帮助及其冲击。

王飞跃,

二零一七年三月十七日于长沙普照园平行居

中国科学院复杂系统管理管理与控制国家重点实验室主任

国防科技大学军事计算实验与平行系统技术研究中心主任



【1】 André-Marie Ampère, Essai sur la philosophic des sciences [M]. Paris, 1845.

【2】 Wiener N.1948, Cybernetics: Or Control and Communication in the Animal and the Machine [M]. Massachusetts: MIT Press ,1948 ISBN 978-0-262-73009-9; 2nd revised ed. 1961. 在本书中,维纳没有提安培已经采用了“控制论”,认为是自己基于希腊文“掌舵人”而首次创造的新词。

【3】 关于Cybernetic的中文译法,其过程和选择请见龚育之等人对《控制论》的中文译本:诺伯特·维纳.《控制论——或关于在动物和机器中控制和通信的科学》[M]. 郝季仁译. 北京: 北京大学出版社, 2007.

【4】 IEEE是国际电气和电子工程师协会(the Institute of Electrical and Electronics Engineers)的简称。

【5】 IEEE Transactions on Computational Social Systems,于2014年创刊。2017年,IEEE期刊重振委员会任命王飞跃为汇刊主编。

【6】 王飞跃.从工程控制到社会管理: 控制论Cybernetics本源的个人认识与展望[J].控制理论与应用. 2014, 31(12) : 1621-1625.

【7】 Rosenblueth A, Wiener N, & Bigelow J. Behavior, Purpose and Teleology[J].Philosophy of Science. 1943, 10( 1): 18-24.

【8】 McCulloch W S & Pitts W. A Logic Calculus of the Ideas Immanent in Nervous Activity[J]. Bulletin of Mathematical Biophysics. 1943(5):115-133.5, 1943, pp. 115-133.  

【9】 Conway F& Siegelman J. Dark Hero of the Information Age: In Search of Norbert Wiener, the Father of Cybernetics[M]. New York: Basic Books, 171-172.

【10】 摘自王飞跃在2016年世界人工智能大会上的报告:《人工智能名人堂:纪念与欢庆》。

【11】 Cousins E. Christ of the 21st Century[M]. New York: Continuum Publishing, 1994.

【12】 关于“物之力” “能之力” “智之力”的讨论,请见:贺福初.如何解放创造力?[J]., 国防参考, 2016(14).

【13】 关于如何对待人工智能,请见:1). 李德毅.对人工智能要有点敬畏之心[N]. 环球时报, 2016-5-20;尼尔斯尼尔森. 理解信念[M].王飞跃,赵学亮 译北京:机械工业出版社,2017.

【14】 有些中文的文章称李郁荣是布什的学生,此系误传,但布什确实将李郁荣推荐给维纳做博士生,见张奠宙和李旭辉所作之《维纳和李郁荣》以及李迪所著之《数学史研究文集》第四辑(内蒙古大学出版社)。

【15】 Therrien C W..The Lee-Wiener Legacy-A History of the Statistical Theory of Communication[J].IEEE Signal  Processing Magazine.2002-11,33-44.

【16】 有文章介绍Amar G. Bose是维纳的博士生,系误传。李郁荣是Bose唯一的博士导师。见“王飞跃,一只耳机背后的故事:维纳、李郁荣和Bose师生三代的传奇。”

【17】 图自《控制论的革命者》,更多评论见王洪喆所作之《阿连德的大数据乌托邦》(《读书》 2017年3期)。


~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~





http://blog.sciencenet.cn/blog-2374-1049767.html

上一篇:从平行植物到智能植物:植物生长的智能控制和管理
下一篇:经典背后令人后怕的“内幕”

28 马建敏 何基龙 王晓 郭亮 沈大勇 彭旭 沈乐君 李本先 代恒伟 喻海良 武夷山 李贤伟 强涛 彭真明 陆泽橼 赵克勤 朱豫才 李伟钢 周熠 文克玲 王林平 彭思龙 李斌 王立新 张磊 xlsd fransis2015 fengzhilei

该博文允许注册用户评论 请点击登录 评论 (9 个评论)

数据加载中...
扫一扫,分享此博文

Archiver|手机版|科学网 ( 京ICP备14006957 )

GMT+8, 2018-11-18 22:49

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部