xbjin的个人博客分享 http://blog.sciencenet.cn/u/xbjin

博文

机器学习的潮流

已有 3584 次阅读 2012-2-12 21:10 |系统分类:科研笔记| google, 科学家, 科研人员, 算法, 实际应用

    当前机器学习主要分为两派:(1)理论学派,致力于寻找学习模型,一般通过科学计算语言Matlab模拟原型。但是时间复杂度通常比较高,一般情况下,时 间复杂度达到O(n^3),n为问题的规模,算法便不太可能用于大规模的数据的运算,尤其当设计到复杂的矩阵运算的时候!(2)实验学派,致力于寻找实际 高效简单的算法解决现实的问题,企业研究院的科研人员如来自雅虎NEC、Google等大部分属于这一类!我倾向于后者,如果看到作者来自这些单位,我会 特意地关注一下!但是,也许出于产权保密的原因,你可能经常不太容易完全弄懂文章的细节。其实做一个东西就像做一份菜,理论优美相当于菜很好看,实际应用 中也非常有效相当于吃起来也不错!如何既好吃又好看是每一位科研人员值得思考的问题!我发现Thorsten Joachims是一位值得我尊敬和学习的一位科学家!他博士论文毕业以SVM起家,随后在SVM的理论改进和应用方面做了很多创造性的工作!他关于 SVM的程序全部使用C语言写公开供大家使用,让我懂得优美的模型也可以优雅地把它实现出来!
       随着计算技术的发展,机器学习解决现实问题的能力得到显著的加强,突出的一点就是实现大规模问题上的机器学习问题,以满足实际的需要:
    (1)算法的并行化:MPI(message passing interface,主要用C语言实现)或Mapreduce(Java实现开源的算法、属于Apache),充分地利用多核CPU的能力;
     (2)  分布式计算:多台工作站合作;更一般地推广到“云计算”
    (3)GPU,使用图形卡实现计算的加速;
     另外,以SVM为代表的统计学习学派已经统治了机器学习数十年,连接学派(以神经网络为代表,主张算法模拟人脑的结构进行思考)再次随着Deep learning的发明而重新走到前沿。相信在不久的将来,机器学习的应用会使我们的生活发生大的变革!

http://blog.sciencenet.cn/blog-649175-536730.html


下一篇:科研的境界:追求极致

4 罗汉江 王靖琰 武夷山 JazzeYoung

该博文允许注册用户评论 请点击登录 评论 (0 个评论)

数据加载中...

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2021-3-2 10:31

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部