1950年，英国著名数学家、逻辑学家、密码学家，被称为计算机科学之父、人工智能之父的阿兰·麦席森·图灵发表的里程碑式论文《机器能思考吗？》为人类带来了一个新学科—人工智能。但我得知这一概念在30多年。那时，学校数学系讲师张玲老师在一次报告中介绍了他出席1984年意大利比萨第六届欧洲人工智能大会和1986年赴英国参加第七届欧洲人工智能大会情况。当时，我还时常与现在已是上海社会科学院博导的同学谈论人工智能最终能否超越人脑。那位同学当时力主人工智能超越人脑。大学毕业后没有我们谈论过类似问题，但我还是经常关注高端机器人的发展。刚才看到凤凰网探索者2013.08.02 第058期“人工智能，未来世界统治者？”，有一种亲切之感，就将部分内容整理过来。

无所不能的人工智能

来源：第一财经日报 作者：陈琳

年初，位于美国加利福尼亚州帕罗奥图市的黑石探索（Blackstone Discovery）科技公司，开始利用最新开发的人工智能软件“电子探索”（e-discovery）为客户提供法律分析服务。不知疲倦的“电子探索”工作高效，更重要的是它的收费也极为低廉。当它为一个大宗案件花费数天时间，分析了150万份卷宗，仅向客户收取了10万美元的服务费。

“以如此低廉的服务费用，完成巨量卷宗分析工作，这在人类的律师行业是无法想象的。”美国《纽约时报》资深记者约翰·马科夫（John Markoff）回忆，1978年美国5家电视台对CBS电视台提起托拉斯诉讼，他们聘请庞大的律师团队，花费数月分析了600万份卷宗，付出的服务费用高达220万美元。“律师服务费是以小时计算的，注意，那是在1978年，220万美元在当时简直就是个天文数字。看来，即使是律师这个灵活多变、具有一定创造性的行业，在未来也难逃人工智能的取代了。”约翰·马科夫感叹。

“我们的新老大来了”

用人工智能专家的术语来形容，“巧妙的算法、大规模的联网数据库、复杂的传感技术，以及计算机的自我学习、推导能力”是“电子探索”在与人类律师团的竞争中脱颖而出的有力武器。比如，你要求“电子探索”分析、搜索含有“狗”的相关文件，它就会在结构中提到“人类最好的朋友”，甚至是带有“闲庭信步”等观念，其“智商”之高不容小觑。

“即使个性和意志再坚强的人，在长时间阅读、分析资料，从事各种脑力劳动后，最终会感到疲倦、烦恼、郁闷。而且，他们经常会出错，特别是在从事法律服务、经济状况预测方面，有的时候，人类的预测准确率只有60%，这和抛掷硬币猜正反的概率相差并不多。” 律师事务所负责人比尔·赫睿（Bill Herr）表示，“人工智能工作时，效率和准确率都很高，不带情绪，收费也很低廉，我们为什么不雇用它们来工作？”

事实上，因为人工智能应用技术发展而受到巨大冲击的，远远不止体面的律师行业。

今年2月，智能计算机沃森（Watson）在CBS一档著名的智力问答节目《危险边缘》（Jeopardy）上，把另外两名有“电脑”之称的人类竞争对手远远甩在了后面，轻松赢走了丰厚的奖金。人们发现，如今的沃森和当年那个战胜人类“棋神”的电脑深蓝，已经不能同日而语。和人类选手同台竞技的沃森，不但能够听懂主持人的自然语言，甚至包括主持人的嗯嗯啊啊的语气词，以及不符合语法逻辑的口语，还能够分析哪些是讽刺、哪些是双关、哪些又是连词，从而判断题意。通过在海量信息的数据库中的搜索，沃森会选取一个可能性超过50%的答案。从主持人报完题目，到沃森找出可靠答案，按下抢答按钮整个过程不超过3秒钟。沃森的人类竞争对手肯·詹宁斯（Ken Jennings）当即就在答题板上写道：“‘电脑’们，我们的新老大来了。”

此外，其他的人工智能动态也在不断冲击着人们的神经。谷歌利用自有的地图和计算系统，研制出的新型无人驾驶汽车正在加利福尼亚的公路上飞驰。

一年多之前，韩国的部分学校尝试引进机器人英语教师。这些老师不仅凭借外表的可爱赢得了孩子们的喜爱，同时，在教学上对任何一个学生都保持资源和情感上的公平，被专家认为是在未来完全可以取代人类教师的角色。

美国佐治亚州理工学院（Georgia Institute of Technology）最近为军方研制了一款会撒谎的“间谍”机器人，它懂得利用错误的形迹伪造假象，发送错误的信息以躲避敌人。

人工智能已经逐渐“领悟”了与人类沟通的自然语言，以及复杂的社会规则。按照麻省理工学院经济学教授大卫·H.奥特（David H. Autor）的说法，美国的就业经济正随着人工智能的发展，逐渐被“掏空”。

人类与人工智能的融合

“到了2020年，我们将成功通过逆向工程制造出人脑。2030年末，计算机智能将赶上人类。2045年，人工智能会掌管全球科技发展。至此之后，人工智能的摩尔定律被打破，科技将呈现爆炸式发展。人类文明已经被人工智能所掌握，2045年以后的科技发展，已经无法被精确预测了。”美国人工智能先驱、未来学家雷·科兹威尔（Ray Kurzweil）在其著作《奇点迫近：当人类超越生物学限度》（The Singularity Is Near: When Humans Transcend Biology）中这样预言。

但也有专家针锋相对地推出另一个观点：“人类是地球上适应性最强、最灵活、最具创新性、学习能力最强的物种。机器是由人类创造的，人类绝不会轻易承认败给自己的孩子。”

当人工智能新成果再度引发众人的争议和恐慌时，美国《时代周刊》近期结合雷·科兹威尔的“半人半人工智能”的思路，提出了未来另一种可能存在的趋势——人类与人工智能逐渐融合为一体，通过这种方式，人类获得了永生的可能。“或许未来有一天，我们需要与计算机分享地球。但是要想和平共处，我们需要变得与他们一样聪明、一样充满力量。”

56岁的英国控制论专家凯文·沃维克（Kevin Warwick）率先拿自己的身体做起了实验。2002年，在他的安排和指点下，外科医生在牛津拉德克利夫（Radcliffe）医院的手术台上，把诸多微电子芯片的感应器植入到了他的神经系统。按照凯文·沃维克的理论论证，植入芯片后，他的神经系统便会受到外界感应器的调节和控制，而不是完全由他的大脑控制，因此神经系统会变得更加强韧，他能够突破年龄的衰老曲线，做一些年轻人热衷的事情。在《时代周刊》对他的回访中，人们惊讶地发现，这位控制论专家仍然生龙活虎，通过配套特殊的光学眼镜和身体内的神经芯片相连，他可以获得比常人更高的视觉分辨率。这让一些专家对“半人半机器人”的可能充满着期待。

2045：超人类诞生？（http://kb.dsqq.cn/html/2011-02/20/content_72486.htm ）

《现代时报》2011年2月20日第B1版：世界周刊，第B2版：世界·焦点

2011年2月18日，超级电脑“沃森”打败了人类，站在了与人类智力竞赛的最高领奖台上。沃森的胜利让许多人想起了它的前辈“深蓝”：1997年“深蓝”力克国际象棋世界冠军卡斯帕罗夫。这曾让人类大呼：狼来了。

 从“深蓝”到“沃森”，人工智能已经向前跨越了一大步。电脑会代替人脑吗？机械公敌会出现吗？这成为很多人的忧虑。

 一些科学家认为，正如宇宙学上存在着一个让所有物理定律都失效的“奇点”一样，信息技术也正朝着“超人类智能”的奇点迈进。计算机科学家雷蒙德·库兹韦尔相信，这个信息奇点即将到来，那时，人工智能将超越人脑，人类的意义将彻底改变；那时人将“不人”，而是与机器融合，成为“超级人类”。

 超级人类是否意味着不朽？人是否会与自己制造的机器融为一体，或将自己分拆在机器中上市？其实早在1964年，传媒大师麦克卢汉就在《机器的新娘》中隐喻：人类只是未来机器的性器官（负责生产新机器人)。机器是人的延伸，反之，人也是机器的延伸。

 人工智能始祖图灵在上世纪50年代就曾做出预测：未来的电脑可能会思考。这一天正在到来，而且脚步匆匆。

 当有一天机器有了思想，它们能像人类一样思考，世界将会怎么样？库兹韦尔相信，这一刻不但无法避免，而且还迫在眉睫。根据他的推算，大约在35年之后，人类文明即将终结。那一年，就是2045。

 奇点

 爱因斯坦的广义相对论是用于描述宇宙演化的正确理论。在经典广义相对论的框架里，霍金和彭罗斯证明了，在一般的条件下，空间—时间一定存在奇点，最著名的奇点即是黑洞里的奇点以及宇宙大爆炸处的奇点。在奇点处，所有定律以及可预见性都失效。奇点可以看成空间时间的边缘或边界。只有给定了奇点处的边界条件，才能由爱因斯坦方程得到宇宙的演化。

 电脑的计算速度正变得越来越快，如果有一天，电脑的运算速度快得令人难以置信，它们掌握人工智能的时刻也会到来，那时电脑将能够模拟人脑、产生意识：人类本身将发生改变。在信息学上，这个时间点也被称为“奇点”。

一些科学家认为，正如天体物理学上存在着一个让所有物理定律都失效的“奇点”(Singularity)一样，信息技术也正朝着“超人类智能”的“奇点”迈进。《时代》杂志文章指出，发明家、计算机科学家雷蒙德·库兹韦尔相信，信息技术的奇点将在2045年到来，届时，人工智能将超越人脑，人类的意义彻底改变，与机器融合为“超人类”，并借助科技的发展而获得“永生”。

 一个秘密

 少年弹的曲子是电脑创作的

 1965年2月15日，一位名为雷蒙德·库兹韦尔的高中生参加了电视节目“我有个秘密”，主持人史蒂夫·艾伦介绍了库兹韦尔，然后库兹韦尔用钢琴短短地弹奏了一曲,曲子有一个秘密，让其他嘉宾得猜出来。最终一名喜剧演员得出了答案——库兹韦尔弹奏的曲子是电脑创作的。

 这台能作曲的电脑是库兹韦尔自己组装的，当时节目中的人们并未对电脑表现出多大兴趣，他们更关注的是库兹韦尔的年纪，却忽略了他完成的事情是多么了不起。

 艺术创作是人类独有的能力，是自我表达的一种方式。人类所独有的创造力，被一个17岁少年组装的电脑所“夺取”了，就像是看着原本不可逾越的界线变得模糊了——这就是人类智慧与人工智能之间的界线。

 这才是库兹韦尔真正的秘密，而他随后的一生也都在为之写下注脚，虽然在1965年没有人能猜出这一点，也许库兹韦尔当时也还没想到。46年之后的今天，库兹韦尔认为，人类正在接近一个电脑智能化的时刻，电脑不仅变得聪明而且还会比人类更聪明。当人工智能超越人类智慧时，人类的身体、思维乃至人类文明都将发生彻底且不可逆转的改变。库兹韦尔相信，这一刻不但无法避免，而且还迫在眉睫。根据他的推算，大约34年之后，人类与机器融合，人类文明即将终结。

 一个概念

 奇点——人工智能超越人脑的时间节点

 电脑的计算速度正变得越来越快，此外，电脑变快的速度也越来越快。如果有一天，电脑的运算速度变得令人难以置信，它们掌握人工智能的时刻也会到来。电脑将能模拟人脑、产生意识：不仅是快速运算、作曲，还包括驾驶、写作、决策、社交……

 如果你能消化这一想法，那么就没理由不相信电脑会变得越来越强大。它们将持续发展，最终远远超过人类。它们发展的速度也会持续增长，最终会摆脱它们的发明者——人类——的掌控，主导自己的发展进程。想象一下，如果一个计算机科学家本身就是一台超智能电脑，会发生什么？它会拥有不可思议的工作速度，能轻易地利用海量数据，甚至不会中途去玩一会开心农场。

 超智能电脑很可能与人类共同主宰未来的世界，但目前人们还无法预见它们的行为，不过，现在有很多关于人工智能的理论：也许人类将与机器融合，成为超智能的“半机器人”，通过人工智能来拓展人类的智慧极限；也许人工智能将帮助人类抵抗衰老，获得永生；也许人类将能够把自己的意识扫描进电脑里，从而像软件一样永远“活在”电脑里；也许电脑终将拥有人性，最终消灭人类。所有这些理论都有一个共通之处：人类本身将发生改变，未来的人类和2011年的人类相比，会发生根本变化。而人类本身发生根本改变的时间点，就叫“奇点”。

 虽然奇点听起来像是科幻小说，但实际上更像是科学的预测。当然，如果奇点成为现实，那么它将是继语言产生之后，人类历史上最为重要的事件。

 奇点并非一个全新的理论，它只是一个相对较新的理论。早在1965年英国数学家I·J·古德就曾描述过“智能爆炸”的概念：“超智能机器是能超越所有人类智力活动的机器，人类能够制造机器，那么超智能机器就能制造出更好的机器。毫无疑问，在这之后‘智能爆炸’就会发生，人类智慧将被远远超越，第一台超智能机器就是人类最后的创造物。”

 奇点一词是从天体物理学中借用而来的，在天体物理学中，它意为时空上的一个点，在奇点处普通物理学的定律并不适用。在1993年的美国宇航局研讨会上，科幻小说家瓦诺尔·温格表示：“在30年内，人类将拥有创造超人类智能的科技手段，不久之后，人类的时代将会终结。”

 一个预测

 2045，就是那个奇点

 作为一个工程师和发明家，库兹韦尔非常成功且赚了几笔钱。在进行科技发明的同时，库兹韦尔也在思考奇点理论。近20年来，他一直在发表自己关于人类和机器的未来的文章。其中最新的一部作品是于2005年出版的畅销书《奇点临近》，其同名纪录片也在今年1月发布，由库兹韦尔、托尼·罗宾斯、艾伦·德肖维茨等人主演。比尔·盖茨将库兹韦尔称为“我所知道的预测人工智能未来的第一人”。

 1980年左右，库兹韦尔对人类“半机器化”的命运产生了兴趣，当时他需要寻找一种衡量、跟踪技术进步步伐的方法。如果时机不对，再伟大的发明也会遭遇失败，而库兹韦尔想要确定当他发布自己的发明时，选择的时机是正确的。他当然知道揭示信息技术进步的摩尔定律，即集成电路上可容纳的晶体管数目，大约每两年增加一倍，这是个非常可靠的经验法则。而库兹韦尔试图绘制的是一个稍有不同的曲线图：随着时间的增长，以每秒处理的百万级机器语言指令数量来衡量，1000美元可以买到的计算机能力是多少。

 经研究证明，库兹韦尔得到的规律与摩尔定律十分相似，都是约每两年增加一倍。绘制成图表来看，它们都是指数曲线，而非直线式增长，且指数曲线的变化出奇地稳定。然后，库兹韦尔将这个指数曲线套用到其他主要技术指标上，如晶体管生产成本的下降、微处理器速度的上升、动态存储器价格的暴跌……库兹韦尔还研究了其他领域的指标，如基因测序、无线数据业务成本的下降和网络用户、纳米技术专利数量的增加……库兹韦尔发现这些数据最后都有一个共同点——呈指数级增长。“这些指标的增长定律大致相同，这非常惊人，”库兹韦尔表示，“无论处于战争时期还是和平时期，也无论是经济繁荣时期还是衰退时期，增长定律相当稳定。”库兹韦尔将之称为“加速回报规律”——科技进步呈指数级增长，而非线性增长。

 然后，库兹韦尔又将这个定律的时限拓展到未来，作出了以下预测：在21世纪20年代中期，人脑反向工程就会成功，人脑的所有秘密就会被揭开。21世纪20年代末，电脑就能达到人脑智力水平。2045年，奇点到来，基于电脑能力的大幅增长，成本的大幅下降，人工智能创造物的数量将是整个人类智慧创造物数量的约十亿倍。

 快报记者 李欣 编译

要不要向人工智能低头

本报记者  张梦然

   梦然丝语

   低头不是容易事，如果对方还是你的创造物，只怕更窘。但科学家现已开始不断提醒我们，要为这件事做点准备了——如果说此前的警告是还有一两个世纪的光景，现在已经锐减为不到50年。

   美国科学家库兹韦尔，被主流商业报刊《Inc.》评为“爱迪生的合法继承人”，他作出的推算是：在2045年，人工智能(AI)将超越人类大脑，从而社会剧烈转型，跨入高智能机器时代。

   他不算最夸张的。美国“生存研究实验室”创始人波林一直试图在让他手下的机械生物们自治，也就是把控制权主动交给机器。天赋的权利，是波林“尊敬它们的方式”。

   再翻翻看近两年关于计算机和机器人感知方面的进展报道，你都会以为铁皮军团马上就要被宣布是有意识的了。

   可我们显然还不够了解“智能”和“机器”到底勾搭到了什么程度。这二者的组合物，在你家里时会扫地，见着楼梯还绕着走；在阿富汗山区会反恐，翻找出人眼看不到的火力；在国际空间站还能帮太空行走的宇航员递个钳子什么的；在复杂计算这一块，它们更是一直让人类饱尝败绩。

   但很有一批科学哲学家对“电脑超越人脑论”持强烈否定态度。他们不以为电脑与其他任何传递信号的机械有何本质区别——水流其实也能制造出有运算功能的机器，难道因为电流跑得更快些，就让机器们学会了“理解”吗？

   物理学家当然能举出很多因速度快产生截然不同事件的例子。但问题是，你是否真的认为：只要一个机器的算法足够复杂精妙，它的自由意志就会涌现出来，变得善良或邪恶，兼有痛苦、愉悦、饥渴甚至还懂得幽默？

   “容易的事都很难。”领域内先驱马文·闵斯基如此总结人工智能的悖论。意思是需要超高智商的事它们会处理得又快又好，而许多稚子可为之事，人工智能却不可为。譬如说，产生哪怕一小点自己的思维意识。

   但这也不太好判断。

   在今天，考虑人工智能的实现程度，通常需精准地用强人工智能和弱人工智能来划分。“强”是指计算机不仅作为一种工具，只要运行适当程序，其本身就是有思维的。这样的机器有知觉、有自我意识——就像科幻电影里快泛滥了的机器人元素。

   而“弱”则是认为不可能制造出真正进行推理和解决问题的机器，其终是没有自主意识的工具。

   近年的主流研究正是围绕“工具”展开的，成就还算可观；强人工智能则处于停滞不前的状态——有趣的是，结论其实可能截然相反，强人工智能或已经发展到彻底蒙蔽人类的程度。因为我们怎能敲定其他个体是否具有自主思维呢？只要足够狡猾，“它”或“他”完全可以装作只是个无辜的铁盒子。

   这就是机器们的优势，如果要一般人类来伪装成机器，只要指令是30秒心算一个8位数乘法就露馅了。

   几十年以来，我们用以定义电脑智慧程度的，都是自己的主观定论——著名的图灵检验就从1950年执行到现在。“人工智能之父”阿兰·图灵认为：如果你隔着一个屏障与机器问答，长时间内仍无法分辨对方是机器还是人，此机就达到了智能阶段——这也是“人机大战”之所以会成为历代人工智能试金石的源头。

   但无论是2011年与人类鏖战智力问答的沃森，还是1997年每秒狂算2亿步棋的深蓝，亦或近年冒出的那些会使诈、会学习、会后悔的一群——现已问世的这些家伙，没有一个本身是能自主思考的。2010年世界诞生了首款能产生并表达感情的机器人Nao，更深层次地发掘了人机交互，但短期内技术只能停留于让其拥有一种类似人的性格上，通过设置某种特殊的电脑程序使机器人学会主人的情感、喜好，增进人类对它的信赖度。

   说到底，它们举手投足间反映的都是主人家的高明，与一般机器的区别，仅在于模仿技巧的高低优劣罢了。

   人工智能的皇帝没穿衣服，被认为“坐在距离人工智能领导者三排远”的罗杰·彭罗斯这样认为。机械与生命体的重叠确实在逐年增加，但电脑们目前还都是没头脑（不高兴们请暂不要考虑被害妄想症一样的蒙蔽论）。你可以把“电脑取代人脑”当做还原主义的历史重复，或是科学研究中发展出来的一项合理的耸人听闻。

   如果50年内太夸张，那在很久的未来，人工智能究竟有无发展出独立意识的可能？我觉着吧，现在就得为这么崇高的问题寻求答案，任谁都会觉得是个很无理的要求。

   《科技日报》（2013-07-18 一版）

原文链接：http://www.stdaily.com/stdaily/content/2013-07/18/content_625220.htm

联合国特别报告员呼吁暂停开发“杀人机器人”

新华社日内瓦5月30日电 （记者吴陈王昭）联合国“法外处决、即决处决或任意处决问题”特别报告员克里斯托夫·海因斯5月30日向人权理事会第23次会议提交报告，建议人权理事会呼吁各国冻结“致命性自动机器人”（“杀人机器人”）技术的研发、生产和使用。

   海因斯还建议由联合国人权事务高级专员组织或会同联合国系统其他部门共同组成高级别小组，召集所有利益相关方共同讨论国际社会在这一问题上应该采取的对策，形成共同遵守的框架，暂停目前所有生产、组装、运送、购买、部署和使用“杀人机器人”的行为。“是否可以允许机器来杀人值得全世界集体停下来思考”。

   “致命性自动机器人”是指在激活后无需人类干预即可自动选择目标和采取行动的武器系统。目前已投入使用的“无人机”等技术仍然需要人类参与控制与决定，但“杀人机器人”则完全由电脑系统做出决定。

   海因斯在当天举行的记者会上说，使用“致命性自动机器人”可能让战争变得更加容易，也可能造成战争责任认定等一系列哲学、伦理问题。然而也有支持者认为，由于能更大程度减少战场上的信息不对称情况、更加精确地针对目标，使用这种新技术可以减少伤亡、“挽救生命”。因此，海因斯并未在报告中提出立刻全面禁止这项技术的建议。他说，对待这项新技术有三种选择：在现有各类规范下任由其发展和使用、严格禁止、针对它制定新的规范。在未经相关各方认真讨论之前，得出结论还为时尚早。

   海因斯的报告说，现阶段尚无“全自动”机器人投入使用，但相应技术已具备，或在不久的将来就会出现。

   《科技日报》（2013-06-01 二版）

原文链接：http://www.stdaily.com/stdaily/content/2013-06/01/content_609016.htm