twhlw的个人博客分享 http://blog.sciencenet.cn/u/twhlw

博文

常识:人工智能过不去的第三道坎

已有 851 次阅读 2020-5-17 22:28 |个人分类:2020|系统分类:科研笔记

正如所有的药一样,所有的知识都是有范围和前提的,失去了这些,知识的副作用就会涌现出来。知识只是常识的素材和原材料,机器只有“知”而没有“识”,不能知行合一。知识不应依附于思想,而应同它合二为一;知识如果不能改变思想,使之变得完善,那就最好把它抛弃。拥有知识,却毫无本事,不知如何使用——还不如什么都没有学——那样的知识是一把危险的剑,会给它的主人带来麻烦和伤害。其中限制知识这些副作用发作的最有效途径之一便是常识的形成,一般而言,常识往往是碎片化的,而态势感知就是通过对这些零零碎碎常识状态、趋势的感觉、知觉形成某种非常识的认识和洞察。另外,常识是人类感知和理解世界的一种基本能力。典型的AI系统缺乏对物理世界运行的一般理解(如直观物理学)、对人类动机和行为的基本理解(如直觉心理学)、像成年人一样对普遍事物的认知。

2018年10月,DARPA在继续开发第二代人工智能技术及其军事应用的同时,积极布局第三代人工智能发展,2018-2020财年,通过新设项目和延续项目,致力于第三代人工智能基础研究,旨在通过机器学习和推理、自然语言理解、建模仿真、人机融合等方面的研究,突破人工智能基础理论及核心技术。相关项目包括:“机器常识”,“终身学习机”,“可解释的人工智能”,“可靠自主性”,“不同来源主动诠释”,“自动知识提取”,“确保AI抗欺骗可靠性”,“自动知识提取”,“加速人工智能”,“基础人工智能科学”,“机器通用感知”,“利用更少数据学习”,“以知识为导向的人工智能推理模式”,“高级建模仿真工具”,“复杂混合系统”,“人机交流”,“人机共生”等。

    其中“机器常识”是AI中一个关键而又容易缺失的组成部分。最近,机器学习领域的进步实现了新的AI能力,但是在所有这些应用中,机器推理都比较狭隘且高度专业化。研发人员必须针对每种情形对AI系统进行训练和编程,通用常识推理依然缺失。常识的缺失阻碍AI系统对世界的理解、影响其与人类的自然交流、不利于其在无法预知的情形中做出合理的行为,并且阻碍其学习新的经验。这种缺失可能是当前人们寻求狭义聚焦AI应用和未来更通用AI应用之间的最大障碍。在研发工作的初期,研究人员将利用认知发展领域的进步开发能像人一样思考和学习的系统,以提供经验和理论指导。MCS项目计划采取两种战略来研发两种不同的常识服务,并为两种服务设计专门的评估鉴定办法。研发技术领域包括以下3个方面:


(1)人类常识的基础。学习经验,以建造可模拟人类对物体(直观物理)、代理(有意行为体)和地点(空间导航)认知的基础核心知识体系的计算模型。这些计算模型将利用发展心理学研究和文献中已经验证的认知发展里程碑进行评估鉴定,判断其在三个层面(预测/预期、经验学习和解决问题)的学习效能。

(2)人类常识基础试验环境。在对上面的研究成果,即人类常识的基础进行测试时,将使用人类常识基础试验环境。

(3)广泛的常识。从网络阅读中学习,以构建回答有关常识现象的自然语言问题和基于图像的问题。该服务将模拟2018年美国普通成年人所具备的常识知识,并将通过艾伦人工智能研究所(AI2)基准试验进行判断。DARPA预计,研究人员将采用手动建造、信息提取、机器学习、众包技术和其他计算方法来建立该常识知识库。

如果知识不能教会我们如何思想和行动,那真是莫大的遗憾!因为知识不是用来使没有思想的人有思想,使看不见的人看见的。知识的职责不是为瞎子提供视力,而是训练和矫正视力,但视力本身必须是健康的,可以被训练的。知识以及知识图谱是良药,但任何良药都可能变质,保持时间的长短也要看药瓶的质量。

俄罗斯人弗拉基米尔·沃沃斯基(Vladimir Voevodsky)的主要成就是:发展了新的代数簇上同调理论,从而为深刻理论数论与代数几何提供了新的观点。他的工作的特点是:能简易灵活地处理高度抽象的概念,并将这些要领用于解决相当具体的数学问题。上同调概念最初来源于拓扑学,而拓扑学可以粗略地说成是“形状的科学”,其中研究沃沃形状的例子如球面、环面以及它们的高维类似物。拓扑学研究这些对象在连续变形(不允许撕裂)下保持不变的基本性质。通俗地说,上同调论提供了一种方法将拓扑对象分割成一些比较容易研究的片,上同调群则包含了如何将这些基本片装配成原来对象的信息。代数几何中研究的主要对象是代数簇,它们是多项式方程的公共解集。代数簇可以用诸如曲线或曲面之类的几何对象来表示,但它们比那些可变形的拓扑对象更具“刚性”。

DARPA战略技术办公室(STO)2017年提出的“马赛克战”概念认为未来战场是一个由低成本、低复杂系统组成的拼接图,这些系统以多种方式连接在一起,可创建适合任何场景的理想交织效果。这个概念的一部分是“以新的令人惊讶的方式组合当前已有的武器”,重点是有人/无人编组、分解的能力,以及允许指挥官根据战场情形无缝召唤海陆空能力,而不管是哪支部队在提供作战能力。

简单地说,上面介绍的“马赛克战”和“机器常识”,都是对抗博弈人机环境系统的新型拓扑系统,如同沃沃斯基创立的“主上同调”(motivic cohomology)理论。其中,真正厉害的不是那些基本的知识、条例和规则,而是应用这些基本的知识、条例和规则的在实践中获得普遍成功能力的人,比如以毛泽东(湖南一师)、粟裕(湖南二师)等为代表的一大批非军事名校毕业的战略家和军事家最终以自己的常识打败了黄埔军系校长和将军们的知识......

如果说“逻辑是符号串的等同或包含关系”,那么非逻辑则是非符号的等同或包含关系。人工智能处理一些逻辑问题较好,而人处理一些非逻辑问题稍优,人机融合则能处理……


029XFUWXN.jpg




http://blog.sciencenet.cn/blog-40841-1233624.html

上一篇:学习:人工智能过不去的另一道坎
下一篇:关键还是人

4 杨正瓴 罗汉江 李剑超 武夷山

该博文允许注册用户评论 请点击登录 评论 (0 个评论)

数据加载中...

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2020-8-4 11:22

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部