求真分享 http://blog.sciencenet.cn/u/zlyang 求真务实

博文

[笔记,类比,联想] AI大模型:杀鸡用了宰牛刀

已有 1152 次阅读 2024-11-21 22:49 |个人分类:先进的信息理论与技术|系统分类:科研笔记

汉语是联合国官方正式使用的 6 种同等有效语言之一。请不要歧视汉语!

Chinese is one of the six equally effective official languages of the United Nations.

Not to discriminate against Chinese, please!

                           

[笔记,类比,联想] AI大模型:杀鸡用了宰牛刀

         

                  

   一般而言,“杀鸡焉用牛刀”。

   只有在特殊的情况下,“杀鸡要用宰牛刀”。

                           

be949383d45890a155f3d58cf6fe3eaf2ab19544_副本.jpg

图1  裁剪自:

https://i0.hdslb.com/bfs/archive/be949383d45890a155f3d58cf6fe3eaf2ab19544.jpg

感谢原作者和有关人员!

                           

   弄清楚了问题的起因,解决的办法也就有了。

                       

   “你对于那个问题不能解决吗?那末,你就去调查那个问题的现状和它的历史吧!你完完全全调查明白了,你对那个问题就有解决的办法了。

   一切结论产生于调查情况的末尾,而不是在它的先头。

   只有蠢人,才是他一个人,或者邀集一堆人,不作调查,而只是冥思苦索地“想办法”,“打主意”。

   须知这是一定不能想出什么好办法,打出什么好主意的。换一句话说,他一定要产生错办法和错主意。

      

        

   庞加莱(Jules Henri Poincaré, 1853-04-29 ~ 1912-07-17, 58):

   If we wish to foresee the future of mathematics our proper course is to study the history and present condition of the science.   HENRI POINCARé

   如果我们想预见数学的未来,正确的路线是研究(学习)这门科学的历史和现状。——亨利·庞加莱

   另一种说法( MacTutor History of Mathematics ):

   The true method of foreseeing the future of mathematics is to study its history and its actual state. 预测数学未来的真正方法是研究数学的历史和实际状态。

https://mathshistory.st-andrews.ac.uk/Biographies/Poincare/  

         

               

图2  诺奖得主、AI教父辛顿:AI和人类很像的一点就是都擅长编造事实

微信的一个小视频。不知道网址,不知道真伪。

           

       

参考资料:

[1] 科普中国,2024-09-28,颠覆认知:AI大模型不可靠,越大越不可靠?!

https://www.kepuchina.cn/article/articleinfo?business_type=100&classify=0&ar_id=530141

   日前,一项发表在权威科学期刊 Nature 上的研究表明:相比于小参数模型,大参数模型不会承认它们的“无知”,而更倾向于生成错误答案。

   值得关注的是,人们并不善于发现这些错误。

[2] 科普中国,2024-06-23,Nature重磅:大模型的谎言如何“破”?

https://www.kepuchina.cn/article/articleinfo?business_type=100&classify=0&ar_id=504283

   世界卫生组织(WHO)的人工智能健康资源助手 SARAH 列出了旧金山本不存在的诊所的虚假名称和地址。

   Meta公司“短命”的科学聊天机器人 Galactica 凭空捏造学术论文,还生成关于太空熊历史的维基文章。

   今年2月,加拿大航空被命令遵守其客户服务聊天机器人捏造的退款政策。

   去年,一名律师因提交充满虚假司法意见和法律引用的法庭文件而被罚款,这些文件都是由 ChatGPT 编造的。

   ……

   如今,大语言模型(LLM)胡编乱造的例子已屡见不鲜,但问题在于,它们非常擅长一本正经地胡说八道,编造的内容大部分看起来都像是真的,让人难辨真假。

   在某些情况下,可以当个乐子一笑而过,但是一旦涉及到法律、医学等专业领域,就可能会产生非常严重的后果。

[3] 科普中国,2024-05-01,大模型等人工智能,是帮助还是损害全球气候?

https://www.kepuchina.cn/article/articleinfo?business_type=100&classify=0&ar_id=493067

[4] 科普中国,2024-04-23,2023年人工智能10大趋势,揭示AI大模型的“喜”与“忧”

https://www.kepuchina.cn/article/articleinfo?business_type=100&classify=0&ar_id=491634

[5] 科普中国,2023-09-02,雹暴中心收集数据、大模型加持极端天气预测,「追风者也」正在上演

https://www.kepuchina.cn/article/articleinfo?business_type=100&classify=0&ar_id=436229

[6] 科普中国,2023-08-22,AGI离我们还有多远?大模型不是最终解,世界模型才是未来

https://www.kepuchina.cn/article/articleinfo?business_type=100&classify=0&ar_id=434325

[7] 2022-12-23,大数据/big data/宋爱波,中国大百科全书,第三版网络版[DB/OL]

https://www.zgbk.com/ecph/words?SiteID=1&ID=154832&Type=bkzyb&SubID=81308

[8] 2024-03-28,大数据/big data/朱建平,中国大百科全书,第三版网络版[DB/OL]

https://www.zgbk.com/ecph/words?SiteID=1&ID=182856&Type=bkzyb&SubID=104245

[9] 2022-06-07,大数据特征/big data feature/杜小勇,李翠平,中国大百科全书,第三版网络版[DB/OL]

https://www.zgbk.com/ecph/words?SiteID=1&ID=219628&Type=bkzyb&SubID=147535

[10] 2023-05-18,大数据数据特征/features of big data/马双鸽,中国大百科全书,第三版网络版[DB/OL]

https://www.zgbk.com/ecph/words?SiteID=1&ID=183319&Type=bkzyb&SubID=201780

   大数据具备的“5V”特征,即数据量大(volume)、种类和来源丰富(variety)、价值密度低(value)、速度快(velocity)和真实性(vercity)五大特点。

[11] 2023-03-31,大数据预测/big data prediction/徐辉,石亚男,中国大百科全书,第三版网络版[DB/OL]

https://www.zgbk.com/ecph/words?SiteID=1&ID=496758&Type=bkzyb&SubID=147671  

[12] 2023-06-02,思维与存在的同一性/identity of thinking and being/仲佰,中国大百科全书,第三版网络版[DB/OL]

https://www.zgbk.com/ecph/words?SiteID=1&ID=727619&Type=bkzyb&SubID=137881

   思维和存在的同一性问题是人类实践活动中的普遍性问题,解决思维和存在的同一性的基础也只能是实践。在社会实践中,一方面存在可以转化为思维,即客观现实通过实践反映在人脑中成为观念形态;另一方面,思维也可以转化为存在,即思想、观念通过实践变为客观现实。在这种相互转化的过程中,实践产生关于存在的思维,检验关于存在的思维,发展关于存在的思维,使思维和存在不断在新的水平上达到具体的、历史的统一。

[13] 2023-07-18,实践/practice/仲佰,中国大百科全书,第三版网络版[DB/OL]

https://www.zgbk.com/ecph/words?SiteID=1&ID=727625&Type=bkzyb&SubID=137882

   实践被理解为人的生活过程,即主体与客体、人之能动性与受动性相统一的感性的生活过程,其最基础的形式是物质生活资料的生产。

   实践是人的存在方式或生活方式等观念,正在逐渐成为学界的共识。

          

相关链接:

[1] 2024-09-29,[笔记,小资料,惊悚] “线性模型稳健性” vs 《颠覆认知:AI大模型不可靠,越大越不可靠?!》

https://blog.sciencenet.cn/blog-107667-1453265.html

[2] 2024-05-23,[打听,讨论] ECMWF 人工智能天气预报 AIFS 的核心是什么?

https://blog.sciencenet.cn/blog-107667-1435372.html

[3] 2022-10-19,[想不明白] 几十页、上百页长的数学证明,真的可靠吗?(阿诺德、Chaitin)

https://blog.sciencenet.cn/blog-107667-1360078.html

[4] 2022-03-01,[科普 + 备课] Chaitin定理(1966年)

https://blog.sciencenet.cn/blog-107667-1327564.html

[5] 2024-03-04,[打听,数理统计,概率] 大数据里的“最简”最优子抽样方法是什么?

https://blog.sciencenet.cn/blog-107667-1424061.html

[6] 2018-08-18,“大数据”时期,更渴望“小样本数理统计学”

https://blog.sciencenet.cn/blog-107667-1129894.html

[7] 2022-07-25,[自己提出问题,提问] 与大数据与机器学习、数据挖掘等“数据科学”有关的一些问题

https://blog.sciencenet.cn/blog-107667-1348710.html

[8] 2024-09-12,[打听] “大贝尔实验合作组(The BIG Bell Test Collaboration)使用的“随机数”

https://blog.sciencenet.cn/blog-107667-1450874.html

[9] 2017-01-09,复杂方法在实际中往往用途不大(在有噪声的情况下)

https://blog.sciencenet.cn/blog-107667-1026473.html

[10] 2022-10-14,[小资料] 阿诺德原理、复杂的模型几乎毫无用处:出自 1998年《On teaching mathematics》

https://blog.sciencenet.cn/blog-107667-1359459.html

[11] 2024-05-16,[请教,讨论] 同一律与柯尔莫哥洛夫 Kolmogorov 的数学观

https://blog.sciencenet.cn/blog-107667-1434414.html

[12] 2024-10-22,[打听,笔记] 推导符号公式的局限性:从数学、心理学到哲学

https://blog.sciencenet.cn/blog-107667-1456506.html

               

感谢您的指教!

感谢您指正以上任何错误!

感谢您提供更多的相关资料!

               

(热门)[笔记,类比,联想] AI大模型:杀鸡用了 +1.jpg



https://blog.sciencenet.cn/blog-107667-1461085.html

上一篇:[科普,留念] 冬天,2024-11-09 上午 10点,打蚊子药
下一篇:曾经的波洛克(桥园):卡片机Ⅱ傻拍2024(11)
收藏 IP: 202.113.11.*| 热度|

26 王涛 宁利中 檀成龙 高宏 郑永军 刘进平 尤明庆 钟炳 许培扬 王从彦 朱晓刚 李毅伟 汪育才 管克英 孙颉 段德龙 崔锦华 池德龙 孙南屏 晏成和 刘秀梅 钱大鹏 张忆文 杨学祥 刘跃 汪凯

该博文允许注册用户评论 请点击登录 评论 (11 个评论)

数据加载中...
扫一扫,分享此博文

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2024-12-26 21:41

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部