科学文化足迹分享 http://blog.sciencenet.cn/u/lvnaiji 邮箱:naijilv@gmail.com

博文

凯库勒的梦与ChatGPT的幻觉 精选

已有 5493 次阅读 2023-8-25 09:04 |个人分类:认知科学|系统分类:科研笔记

吕乃基

随着新知识不断涌现,知识加快老化;由于信息技术特别是互连网的作用,知识共享的量越来越大、范围越来越广、速度越来越快人类相互交流的速率受到说话语速的限制,而模型相互交流的速率远快于人类,因而知识的贬值也越来越快。知识的积累强调知识的连续性、循序渐进,知识的创新则强调知识的中断、跳跃,需要非逻辑思维或非线性思维,如联想等形象思维,以及灵感、顿悟等直觉思维。

知识的老化和知识的贬值共同表明知识创新重要对非逻辑思维提出更高的要求。人类发展至今对于逻辑思维已经有非常成熟的研究,而对于非逻辑思维,特别是直觉思维所知甚少。有人说,对于直觉思维,或许也只能以直觉来把握。人类如何发展非逻辑思维?对于我们说不请、道不明的思维,又如何去学,如何去教?我们如何创新?

解决之途之一在于在直觉思维之前的准备、积淀与之后的梳理。先看“之前”。思之思之,又重思之,思之而不通,鬼神将通之;非鬼神之力,精气之极也。没有之前包括逻辑思维在内的知识积淀和思维准备,就不可能达到“精气之极”。凯库勒没有之前的“思之思之,又重思之”,就不会有那个著名的梦。

再看“之后”。凯库勒没有止步于梦中的那条衔着自己尾巴的蛇。经之后数日紧张的思索,凯库勒得出了苯的结构式。在对公众的讲演中凯库勒说,先生们,让我们学会做梦。不过在经清醒头脑的过滤和重组之前,不要公布那个梦。

人类以往的几乎全部知识构成了ChatGPT“之前”之“思”。如果把凯库勒在梦前掌握的资料交给生成式人工智能,如ChatGPT,不知它会不会做梦。胡泳认为,机器不能做梦,然而ChatGPT的梦或许是以涌现的方式出现,其中可能有幻觉,幻觉在某种意义上与梦有相通之处。

ChatGPT在工作时若总是选择最高概率的单词,通常会得到一篇非常平淡的文章。一个特定的温度参数控制较低排名的单词会被使用的频率,发现温度为0.8效果最好。概率和随机性显示出神奇的魔力,这或许是涌现的主要源泉。

微软总裁纳德拉表示,有时候幻觉也是“创意”的表现。人类应该可以选择他们想要用哪种模式,试试各种“温度”“ChatGPT出现的幻觉,就是人类的创造力和想象力。所以试图剥夺ChatGPT一本正经胡说八道”的能力,就是要求艺术家丢掉调色板,音乐家丢掉乐器,要求诗人只唱赞歌。”奥特曼理直气壮地说“今天我在这里,必须强烈反对那些无休止地指责ChatGPT的声音。”

OpenAI的GPT-4在托伦斯创造性思维测试(TTCT)中的得分在前1%,在流畅性、灵活性和原创性等创造性能力方面与人类相匹配或超过了人类。

如果把结果监督改为过程监督,让ChatGPT的每一步都处于人的监督之下,以及让每一步都透明和可理解,既消除了幻觉和隐患,同时也泯灭了涌现和梦。

问题是,ChatGPT未经“清醒头脑的过滤和重组”就公布了幻觉,其自身目前看来没有能力区分现实与幻觉,人类应担负起以“清醒头脑”进行“过滤和重组”之重任,实际上这也是人类最后的底线。

难道当真把一切都交给ChatGPT?



https://blog.sciencenet.cn/blog-210844-1400237.html

上一篇:人类知行系统的演化走向分道扬镳?(合集)
下一篇:隐性知识再议——不要试图在微信群劝说对方
收藏 IP: 49.74.78.*| 热度|

12 武夷山 焦飞 崔锦华 曾杰 晏成和 王涛 李剑超 王成玉 郑永军 周忠浩 杨正瓴 许培扬

该博文允许注册用户评论 请点击登录 评论 (6 个评论)

数据加载中...
扫一扫,分享此博文

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2024-3-5 11:59

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部