机器学习的潮流
已有 4770 次阅读
2012-2-12 21:10
|系统分类:科研笔记|
google, 科学家, 科研人员, 算法, 实际应用
当前机器学习主要分为两派:(1)理论学派,致力于寻找学习模型,一般通过科学计算语言Matlab模拟原型。但是时间复杂度通常比较高,一般情况下,时
间复杂度达到O(n^3),n为问题的规模,算法便不太可能用于大规模的数据的运算,尤其当设计到复杂的矩阵运算的时候!(2)实验学派,致力于寻找实际
高效简单的算法解决现实的问题,企业研究院的科研人员如来自雅虎NEC、Google等大部分属于这一类!我倾向于后者,如果看到作者来自这些单位,我会
特意地关注一下!但是,也许出于产权保密的原因,你可能经常不太容易完全弄懂文章的细节。其实做一个东西就像做一份菜,理论优美相当于菜很好看,实际应用
中也非常有效相当于吃起来也不错!如何既好吃又好看是每一位科研人员值得思考的问题!我发现Thorsten
Joachims是一位值得我尊敬和学习的一位科学家!他博士论文毕业以SVM起家,随后在SVM的理论改进和应用方面做了很多创造性的工作!他关于
SVM的程序全部使用C语言写公开供大家使用,让我懂得优美的模型也可以优雅地把它实现出来!
随着计算技术的发展,机器学习解决现实问题的能力得到显著的加强,突出的一点就是实现大规模问题上的机器学习问题,以满足实际的需要:
(1)算法的并行化:MPI(message passing interface,主要用C语言实现)或Mapreduce(Java实现开源的算法、属于Apache),充分地利用多核CPU的能力;
(2) 分布式计算:多台工作站合作;更一般地推广到“云计算”
(3)GPU,使用图形卡实现计算的加速;
另外,以SVM为代表的统计学习学派已经统治了机器学习数十年,连接学派(以神经网络为代表,主张算法模拟人脑的结构进行思考)再次随着Deep learning的发明而重新走到前沿。相信在不久的将来,机器学习的应用会使我们的生活发生大的变革!
https://blog.sciencenet.cn/blog-649175-536730.html
下一篇:
科研的境界:追求极致