科学网

 找回密码
  注册
置顶 · 首次发表的评论文章:《回顾学习函数和语义信息测度的进化——进而理解深度学习》
2023-7-14 11:40
Entropy 是MDPI出版公司出版的一个专业期刊,汇集了全球许多对熵和信息感兴趣的作者和读者。这篇是我在Entropy上面发表的第4篇文章。这篇文章经过4位审稿人审稿 (可见编辑重视),一致同意修改发表。主要修改:更改了前两章结构;重要文献和述评集中于Introduction部分;添加了本人研究介绍和实验结果。 英文版见: ...
个人分类: 信息的数学和哲学|1529 次阅读|没有评论
置顶 · 我关于鸟和性选择的发现—— 一篇英文介绍含有更多有趣图片
2021-10-27 12:16
最近英文杂志Research Features介绍了我关于鸟、美感和性选择的发现。我以前在博文中介绍过一些,这篇文章包含我对美和性选择难题最简洁也是最严谨的叙述,还包含我最近发现的几个有趣例子。 曾有专家审查了我的有关专著摘要和部分章节,竭力反对,建议我看他的书——看他怎样用鸟雀的食物解释鸟雀羽毛颜色。但是他如何解 ...
个人分类: 美感,需求和进化|3178 次阅读|没有评论
置顶 · 鲁晨光的色觉译码模型和流行的阶段模型比较
2007-6-5 06:26
流行的阶段模型: http://survivor99.com/lcg/books/color/zonemodel/ 我的译码模型: http://survivor99.com/lcg/my/colormodel.htm 和阶段模型相比, 译码模型简洁, 对称,解释色觉变化, 色盲和色觉进化更加简单。 用译码模型解释色盲和色觉进化: 人眼本来只有一种塞敏感细胞, 后来分 ...
个人分类: 色觉问题和分析哲学|6319 次阅读|没有评论
置顶 · 应邀发表了一篇科学哲学长文:P-T概率框架用于语义通信,证伪,确证和贝叶斯推理
热度 1 2020-10-6 14:15
这篇文章英文版应Philosophies的特刊Logic anf Science的客座编辑Dr. Fabien Paillusson的邀请而写(不收版面费)。他邀请我是因为看到我发表在Entropy上关于确证的文章: https://www.mdpi.com/1099-4300/22/4/384 . 应邀文章是一个大统一文章: 1. 统计和逻辑的统一 ———了解人工智能中统计学派和逻辑学派的 ...
个人分类: 信息的数学和哲学|4327 次阅读|5 个评论 热度 1
发表了一篇英文长文:语义信息G理论和逻辑贝叶斯推理for统计学习
热度 1 鲁晨光 2019-8-21 01:04
这是我近五年研究的总结, 也基于我以前的研究结果。 发表的期刊是:Information: https://www.mdpi.com/journal/information 文章是: https://www.mdpi.com/2078-2489/10/8/261 英文open access 期刊, 不限长度。 我用的方法——语义信息方法——与众不同, Information正好适合我。同行评论要过两关,要老实按re ...
个人分类: 信息的数学和哲学|3253 次阅读|2 个评论 热度 1
用第三种贝叶斯定理求多标签分类——有简单方法何必用复杂的?
鲁晨光 2018-6-12 12:01
作者以前研究语义信息论,最近研究了多标签分类基本方法,觉得,从语义通信的角度 看, 结合已有的方法,应该能得到更简单更合理的方法。下面是最近研究的一个总结。、 本文使用交叉熵方法,即用样本分布代替样本序列。 参考文献:  Wikipedia 的多标签学习介绍: https://en.wikipedia.org/wiki/M ...
个人分类: 信息的数学和哲学|3151 次阅读|没有评论
我捡到大漏了——发现混合模型收敛严格证明方法
热度 1 鲁晨光 2018-4-2 13:11
我一直说EM算法收敛证明有问题,我把它改进为CM算法。我以前提供的CM算法收敛证明要比EM算法的收敛证明好得多,但是还不严格。 现在发现,采用分析Shannon的信息率失真函数用到的变分和迭代方法,可以严格严格证明CM迭代方法收敛。 EM算法的问题和CM算法收敛证明详见: http://survivor99.com/lcg/CM/EMwayout.pd ...
个人分类: 信息的数学和哲学|4360 次阅读|2 个评论 热度 1
一个新的数学框架用于机器学习——挑战流行的贝叶斯主义推理...
鲁晨光 2018-3-14 00:58
我想写一篇《一个新的数学框架用于机器学习——挑战流行的贝叶斯主义推理》, 在人工智能会议上交流。这里是一个提要, 希望赢得知音, 得到知音支持,从而有机会大会发言。 最近两年多, 我一直在努力用语义信息方法改造挑战流行的Bayesian Inference方法。语义信息方法包括: 1)语义信息准 ...
个人分类: 信息的数学和哲学|3301 次阅读|没有评论
交叉熵是谁最早提出和应用的?
鲁晨光 2018-3-1 14:31
交叉熵 (cross-entropy, 或 CE) 最简单形式就是 H=-∑P(xi)logP(xi|θ). log 后面是似然度或预测的概率。下面是 wikipedia 介绍: https://en.wikipedia.org/wiki/Cross_entropy 我在一个群里说,人工智能需要一个像物理学中“能量”那样的贯穿很多公式的概念,这个概念应该是信息。我用语义信息方法优 ...
个人分类: 信息的数学和哲学|10473 次阅读|1 个评论
兼容Shannon, Popper, Fisher, Zadeh思想的语义信息论
热度 3 鲁晨光 2017-8-11 14:09
不久的一个报告,希望把我的语义信息方法讲得更清楚。 PPT见 http://survivor99.com/lcg/semantic.ppt 简单说来就是用反映语义的真值函数产生似然度, 把似然度带进Shannon信息公式, 这样Shannon信息测度就变为语义信息测度, 能够反映Popper和Fisher的假设验思想。 反过来, 用这样的信息测度可以优化真值函数或Za ...
个人分类: 信息的数学和哲学|4468 次阅读|8 个评论 热度 3
公布求解最大互信息和最大似然度的信道匹配算法—用以取代EM算法
热度 3 鲁晨光 2017-6-12 12:25
搜索最大似然度, 可见有33万篇文章: http://www.sciencedirect.com/science?_ob=ArticleListURL_method=list_ArticleListID=-1217372240_sort=r_st=13view=cmd5=32025f8bcf94febd17e33e7009f377cdsearchtype=a 搜索EM算法有8万多篇文章: http://www.sciencedirect.com/science?_ob=Article ...
个人分类: 信息的数学和哲学|5848 次阅读|7 个评论 热度 3
冒名奇观《信息论在经济中的应用》-胡志远
鲁晨光 2017-5-3 03:19
《信息论在经济中的应用》-作者胡志远, 这篇文章见: http://www.docin.com/p-860107562.html 这明明是我的文章, 胡志远拿去几乎原封不动发表了——只改了标题和作者姓名, 好像还是正规期刊:《信息与计算科学》。 我原文好像没有投搞, 是放在这里了: http://survivor99.com/lcg/books/GIT/ ...
个人分类: 信息的数学和哲学|4206 次阅读|2 个评论
看语义信息研究如何解决归纳问题
鲁晨光 2016-11-27 11:55
基于语义信息论的确证方法——以乌鸦悖论和医学检验为例 摘要:确证度计算是现代归纳逻辑的核心议题。语义信息研究表明, 对于不太可靠的预测或假设,适度信任可以提高平均语义信息。求一系列证据提供的平均信息时,改变不信度 b’(即反例的真值),使平均语义信息达最大的不信度就是否证度 b’*, b*=1- b’*就是确 ...
个人分类: 信息的数学和哲学|4978 次阅读|1 个评论

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2024-9-22 22:04

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部