《镜子大全》《朝华午拾》分享 http://blog.sciencenet.cn/u/liwei999 曾任红小兵,插队修地球,1991年去国离乡,不知行止。

博文

【科普小品:NLP 的锤子和斧头】

已有 4490 次阅读 2016-6-7 00:41 |个人分类:立委科普|系统分类:科普集锦| 规则, 机器学习

与老友又谈到了deep 还是 shallow NLP 的事儿。
老友说,你必须承认,工业界的 NLP 绝大多数成规模的应用都是 shallow NLP 在支撑的,背后的基础技术是学习(ML),如今是深度学习(DL)(规则派NLP一直也在不同的产品中有见,但规模和影响力无法与学习比
我说,我又不是瞎子,怎能不知道。
没用 deep,是因为学习那边20多年来一直都是局限在浅层,把NLP应用的浅层做到了极致,只是最近才开始试图规模化的深入的尝试(如 SyntaxNet),离具体运用还远。不是不想 deep,而是ML一直没能做到而已(斯坦福parser这类不是一直存在吗,但那基本是局限在教授实验室的东西,从来没有落地为应用)。而规则这边的传承,从一开始就是 deep 起家,不过是很多规则派不太懂得鲁棒和scale,所以也大多不能做 real life 大系统。
规则一派一度红火的 unification grammars 最后证明是理论上漂亮,实践中不给力,因为这些个 Gs 都基于 CFG 的机制(白老师所谓“毛毛虫"),决定了不仅速度不行,而且也难以应对错综复杂的层次纠缠。如今不同了,多层的深度NLP的路子蹚出来了,规则派解放了。结果并不是要取代工业界的学习或深度学习,也取代不了,这是全世界的潮流,但是作为补充,现在的工业界已经有足够的空间让规则派发挥了。说到底,最后总有人会明白两条腿走路比一条腿走要快很多,且不说还有合流的可能性,只要双方有诚意,采一种相互欣赏的心态,而不是宗教派别一样的对立心态。这种开放心态的可贵尤其在其中一个教派奉为“国教”的时候。
我们大多数人无论多天才,都难免偏见或狭窄,高明的人懂得这是人性所限,会有意识地注意到自己的局限,自大的人就假设对方不存在或不屑为伍。

我有一把锤子,世界就变成了我的钉子,这种视角无可厚非,甚至还帮助了我们把锤子发挥到极致。但世界上不是只有锤子,不管那把锤子被捧得多高,也可能还有、也需要斧头。世界也并非都是钉子,也可能是块木头,需要斧头去劈。


【相关】

【泥沙龙笔记:关于语法工程派与统计学习派的总结】

【新智元笔记:工程语法与深度神经】


《立委随笔:语言自动分析的两个路子》


钩沉:Early arguments for a hybrid model for NLP and IE


[转载]【白硕 - 穿越乔家大院寻找“毛毛虫”】 

【置顶:立委科学网博客NLP博文一览(定期更新版)】  





https://blog.sciencenet.cn/blog-362400-982898.html

上一篇:【新智元笔记:两条路线上的NLP数据制导】
下一篇:【deep parsing (70/n):离合词与定语从句的纠缠】
收藏 IP: 192.168.0.*| 热度|

0

该博文允许注册用户评论 请点击登录 评论 (0 个评论)

数据加载中...
扫一扫,分享此博文

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2024-5-23 21:53

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部