信息学基础研究分享 http://blog.sciencenet.cn/u/geneculture 语言理解&知识表达

博文

人工智能与机器学习进而与深度学习的关系概述

已有 167 次阅读 2017-11-15 16:15 |个人分类:Computer Science|系统分类:科研笔记|关键词:人工智能AI;机器学习ML;深度学习DL

       虽然我们可借助图1和图2一下子看出人工智能(AI)与其下辖的一个分支即机器学习(ML)之间的种属关系,进而,也可用同样的方式理解机器学习(ML)与深度学习(DL)之间的种属关系。


     

       附录(经过本人适当编辑和补充):


       人工智能的研究领域也在不断扩大,图一展示了人工智能研究的各个分支,包括专家系统、机器学习、进化计算、模糊逻辑、计算机视觉、自然语言处理、推荐系统等。

       图1,人工智能研究分支层次关系示意图。

       目前科研工作都集中在弱人工智能这部分,并很有希望在近期取得重大突破,电影里的人工智能多半都是在描绘强人工智能而这部分在目前的现实世界里难以真正实现(通常将人工智能分为弱人工智能和强人工智能,前者让机器具备观察和感知的能力可做到一定程度的理解和推理,而强人工智能让机器获得自适应能力,解决一些之前没有遇到过的问题)。

       弱人工智能有希望取得突破。它如何实现 “智能”又从何而来呢?这主要归功于一种实现人工智能的方法——机器学习。

       机器学习:一种实现人工智能的方法

       机器学习最基本的做法,是使用算法来解析数据、从中学习,然后对真实世界中的事件做出决策和预测。与传统的为解决特定任务、硬编码的软件程序不同,机器学习是用大量的数据来 “训练”,通过各种算法从数据中学习如何完成任务。

       举个简单的例子,当我们浏览网上商城时,经常会出现商品推荐的信息就是商城根据你往期的购物记录和冗长的收藏清单识别出这其中哪些是你真正感兴趣,并且愿意购买的产品。这样的决策模型,可以帮助商城为客户提供建议并鼓励产品消费。

        机器学习直接来源于早期的人工智能领域,传统的算法包括:决策树、聚类、贝叶斯分类、支持向量机、EM、Adaboost等等。从学习方法上来分,机器学习算法可分为监督学习(如分类问题)、无监督学习(如聚类问题)、半监督学习、集成学习、深度学习和强化学习。

        传统的机器学习算法在指纹识别、基于Haar的人脸检测、基于HoG特征的物体检测等领域的应用基本达到了商业化的要求或者特定场景的商业化水平,但每前进一步都异常艰难,直到深度学习算法的出现。

       深度学习:一种实现机器学习的技术

       深度学习本来并不是一种独立的学习方法,其本身也会用到有监督和无监督的学习方法来训练深度神经网络。但由于近几年该领域发展迅猛,一些特有的学习手段相继被提出(如残差网络),因此越来越多的人将其单独看作一种学习的方法。

      最初的深度学习是利用深度神经网络来解决特征表达的一种学习过程。深度神经网络本身并不是一个全新的概念,可大致理解为包含多个隐含层的神经网络结构。为了提高深层神经网络的训练效果,人们对神经元的连接方法和激活函数等方面做出相应的调整。其实有不少想法早年间也曾有过,但由于当时训练数据量不足、计算能力落后,因此最终的效果不尽如人意。

       深度学习摧枯拉朽般地实现了各种任务使得似乎所有的机器辅助功能都变为可能。无人驾驶汽车,预防性医疗保健,甚至是更好的电影推荐都近在眼前,或者即将实现。其原因与以下因素息息相关:

       首先,深度卷积神经网络需要大量数据进行训练。网络深度太浅的话,识别能力往往不如一般的浅层模型,比如SVM或者boosting;如果做得很深,就需要大量数据进行训练,否则机器学习中的过拟合将不可避免。而2006年开始,正好是互联网开始大量产生各种各样的图片数据的时候,即视觉大数据开始爆发式地增长。

       其次,是运算能力。卷积神经网络对计算机的运算要求比较高,需要大量重复可并行化的计算,在当时CPU只有单核且运算能力比较低的情况下,不可能进行很深的卷积神经网络的训练。随着GPU计算能力的增长,卷积神经网络结合大数据的训练才成为可能。

       最后,就是人和。卷积神经网络有一批一直在坚持的科学家(如Lecun)才没有被沉默,才没有被海量的浅层方法淹没。最后终于看到卷积神经网络占领主流的曙光。

       有一点需要特别提醒的是,或许,深度学习更值得我们借鉴的是“深度”这一思想,但它是否等同于深度神经网络,学者们的意见并非一致。

        三者的区别和联系

        机器学习是一种实现人工智能的方法,深度学习是一种实现机器学习的技术。可用最简单的方法——同心圆似的方框嵌套图(图2)可视化地展现出它们三者的关系。




http://blog.sciencenet.cn/blog-94143-1085366.html

上一篇:Understanding: How to Resolve Ambiguity 理解:怎样化解歧义?
下一篇:跨学科、跨领域和跨行业的大讨论班(1)
收藏 分享 举报

0

该博文允许注册用户评论 请点击登录 评论 (0 个评论)

数据加载中...

Archiver|手机版|科学网 ( 京ICP备14006957 )

GMT+8, 2017-12-12 04:53

Powered by ScienceNet.cn

Copyright © 2007-2017 中国科学报社

返回顶部