钟定胜的个人博客分享 http://blog.sciencenet.cn/u/holyskyz 哲思天地_人定圣天不胜天:人心要和睦安定,以天理为圣,敬畏天理,尊重良知。

博文

“有限的观察只能得到有限的推理”

已有 2556 次阅读 2016-9-18 11:12 |系统分类:观点评述

“有限的观察只能得到有限的推理”,因此,人类得到的任何知识,任何科学体系都是有局限性的,都是在我们的‘有限观察’下得到的相对真理/有限真理。

近几十年来被广泛应用的人工神经网络,便与此道理非常相似。我对神经网络的理解是:神经网络在本质上是在进行数学插值,它所输出的有效结果必须是在它的训练数据所涵盖的多维数学空间中的,它对超越了其训练数据空间集的点的预测行为是非常不可靠的(但也许仍能准确预测,比如训练一些非常简单的线性函数关系如x+y之类的来进行预测,但这种结果是不完全可信的),除非你能十拿九稳地肯定你的研究对象在训练数据点之外的数学空间中仍然能够保持相同的函数关系##。事实上,一个神经网络如果能在已有的训练数据所涵盖的数学空间中进行非常准确高效的预测(本质上是插值),就已经是一个非常优秀的神经网络了。

因此,在很多时候,训练数据是否充分、是否有代表性是决定神经网络质量的一个重要的必备条件,经验、体验和广泛的阅读为什么是人生的财富,就是这个道理。也因此,对于社会科学家尤其是哲学家来说,要得到最接近真理的知识而不误入歧途,必须或有丰富的人生体验,或有广泛的科学知识(尤其是对自然的了解),或二者兼而有之。人类的所有知识都来源于自然,来源于自然体验,来源于对物质世界的观察和体验,并由自然和物质世界的实际现象来检验和修正。不了解自然、不了解自然科学、也没有丰富的人生体验的人去研究哲学,空谈真理,误入歧途甚至走火入魔的可能性非常高,大哲学家往往文理兼备就是这个道理。

  

##顺着这个话题,再谈谈我对神经网络的第二个理解和感想,即关于如何进行神经网络选择和搭建的问题。我的观点是,最科学的神经网络搭建方法,应该要首先对所研究对象进行机理分析,大体分析出该研究对象内在变化规律的机理符合哪种函数关系,分析得越透彻越好,并在此基础上进行神经网络的选择和搭建,而不能人云亦云地胡乱选择神经网络,更不能毫无根据地随意选择一个神经网络就开始训练和实用。最好的神经网络一定是网络的函数关系与该事物的变化规律内在机理函数相近的网络,只是由于该事物过于复杂我们给不出准确的显性方程,无法进行数值解析,所以才只能选择神经网络这样一个黑箱子进行模拟。但这决不意味着这个黑箱子里可以随意地进行网络选择,而应尽量通过事先的机理分析,得出大致的函数关系类型,再去选择神经网络和选择网络函数,尽量把黑箱变灰箱。

关于神经网络的我的这些个人体会,对于一个专业的神经网络研究者和应用者来说,也许都是早已暗熟于胸的事了,但从我以前所阅读的大量有关文献来看,似乎有许多的神经网络应用者在研究中极少去思考(甚至可能毫不思考)这些内在的机理性问题,照猫画虎地套用神经网络的比例似乎很高,因此在此班门弄斧地写上几句,欢迎讨论和指正。

 

欢迎转载,只需注明文章作者钟定胜。
文责自负,与本人的工作单位无关,与文字发布的网络平台无关。
**********微信公众号holysky-zhong***********
*****微博地址http://weibo.com/holyskyzds****
*****QQ空间http://user.qzone.qq.com/253758/******



https://blog.sciencenet.cn/blog-3234816-1003530.html

上一篇:走极端与社会成熟及其他
下一篇:关于神经网络应用的一些新设想
收藏 IP: 221.178.177.*| 热度|

0

该博文允许注册用户评论 请点击登录 评论 (0 个评论)

数据加载中...
扫一扫,分享此博文

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2024-4-20 08:23

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部