||
吕乃基
随着新知识不断涌现,知识加快老化;由于信息技术特别是互连网的作用,知识共享的量越来越大、范围越来越广、速度越来越快。人类相互交流的速率受到说话语速的限制,而模型相互交流的速率远快于人类,因而知识的贬值也越来越快。知识的积累强调知识的连续性、循序渐进,知识的创新则强调知识的中断、跳跃,需要非逻辑思维或非线性思维,如联想等形象思维,以及灵感、顿悟等直觉思维。
知识的老化和知识的贬值共同表明知识创新的重要性,也对非逻辑思维提出更高的要求。人类发展至今对于逻辑思维已经有非常成熟的研究,而对于非逻辑思维,特别是直觉思维所知甚少。有人说,对于直觉思维,或许也只能以直觉来把握。人类如何发展非逻辑思维?对于我们说不请、道不明的思维,又如何去学,如何去教?我们如何创新?
解决之途之一在于在直觉思维之前的准备、积淀与之后的梳理。先看“之前”。思之思之,又重思之,思之而不通,鬼神将通之;非鬼神之力,精气之极也。没有之前包括逻辑思维在内的知识积淀和思维准备,就不可能达到“精气之极”。凯库勒没有之前的“思之思之,又重思之”,就不会有那个著名的梦。
再看“之后”。凯库勒没有止步于梦中的那条衔着自己尾巴的蛇。经之后数日紧张的思索,凯库勒得出了苯的结构式。在对公众的讲演中凯库勒说,先生们,让我们学会做梦。不过在经清醒头脑的过滤和重组之前,不要公布那个梦。
人类以往的几乎全部知识构成了ChatGPT“之前”之“思”。如果把凯库勒在梦前掌握的资料交给生成式人工智能,如ChatGPT,不知它会不会做梦。胡泳认为,机器不能做梦,然而ChatGPT的梦或许是以涌现的方式出现,其中可能有幻觉,幻觉在某种意义上与梦有相通之处。
ChatGPT在工作时若总是选择最高“概率”的单词,通常会得到一篇非常“平淡”的文章。以一个特定的“温度”参数控制较低排名的单词会被使用的频率,发现温度为0.8效果最好。概率和随机性显示出神奇的魔力,这或许是涌现的主要源泉。
微软总裁纳德拉表示,有时候幻觉也是“创意”的表现。人类应该可以选择他们想要用哪种模式,试试各种“温度”。“ChatGPT出现的幻觉,就是人类的创造力和想象力。所以试图剥夺ChatGPT一本正经胡说八道”的能力,就是要求艺术家丢掉调色板,音乐家丢掉乐器,要求诗人只唱赞歌。”奥特曼理直气壮地说,“今天我在这里,必须强烈反对那些无休止地指责ChatGPT的声音。”
OpenAI的GPT-4在托伦斯创造性思维测试(TTCT)中的得分在前1%,在流畅性、灵活性和原创性等创造性能力方面与人类相匹配或超过了人类。
如果把结果监督改为过程监督,让ChatGPT的每一步都处于人的监督之下,以及让每一步都透明和可理解,既消除了幻觉和隐患,同时也泯灭了涌现和梦。
问题是,ChatGPT未经“清醒头脑的过滤和重组”就公布了幻觉,其自身目前看来没有能力区分现实与幻觉,人类应担负起以“清醒头脑”进行“过滤和重组”之重任,实际上这也是人类最后的底线。
难道当真把一切都交给ChatGPT?
Archiver|手机版|科学网 ( 京ICP备07017567号-12 )
GMT+8, 2024-12-24 10:55
Powered by ScienceNet.cn
Copyright © 2007- 中国科学报社