求真分享 http://blog.sciencenet.cn/u/zlyang 求真务实

博文

[笔记,类比,联想] AI大模型:杀鸡用了宰牛刀

已有 321 次阅读 2024-11-21 22:49 |个人分类:先进的信息理论与技术|系统分类:科研笔记

汉语是联合国官方正式使用的 6 种同等有效语言之一。请不要歧视汉语!

Chinese is one of the six equally effective official languages of the United Nations.

Not to discriminate against Chinese, please!

                           

[笔记,类比,联想] AI大模型:杀鸡用了宰牛刀

                           

   一般而言,“杀鸡焉用牛刀”。

   只有在特殊的情况下,“杀鸡要用宰牛刀”。

                           

be949383d45890a155f3d58cf6fe3eaf2ab19544_副本.jpg

图1  裁剪自:

https://i0.hdslb.com/bfs/archive/be949383d45890a155f3d58cf6fe3eaf2ab19544.jpg

感谢原作者和有关人员!

                           

   弄清楚了问题的起因,解决的办法也就有了。

                       

   “你对于那个问题不能解决吗?那末,你就去调查那个问题的现状和它的历史吧!你完完全全调查明白了,你对那个问题就有解决的办法了。

   一切结论产生于调查情况的末尾,而不是在它的先头。

   只有蠢人,才是他一个人,或者邀集一堆人,不作调查,而只是冥思苦索地“想办法”,“打主意”。

   须知这是一定不能想出什么好办法,打出什么好主意的。换一句话说,他一定要产生错办法和错主意。

      

        

   庞加莱(Jules Henri Poincaré, 1853-04-29 ~ 1912-07-17, 58):

   If we wish to foresee the future of mathematics our proper course is to study the history and present condition of the science.   HENRI POINCARé

   如果我们想预见数学的未来,正确的路线是研究(学习)这门科学的历史和现状。——亨利·庞加莱

   另一种说法( MacTutor History of Mathematics ):

   The true method of foreseeing the future of mathematics is to study its history and its actual state. 预测数学未来的真正方法是研究数学的历史和实际状态。

https://mathshistory.st-andrews.ac.uk/Biographies/Poincare/  

         

               

图2  诺奖得主、AI教父辛顿:AI和人类很像的一点就是都擅长编造事实

微信的一个小视频。不知道网址,不知道真伪。

           

       

参考资料:

[1] 科普中国,2024-09-28,颠覆认知:AI大模型不可靠,越大越不可靠?!

https://www.kepuchina.cn/article/articleinfo?business_type=100&classify=0&ar_id=530141

   日前,一项发表在权威科学期刊 Nature 上的研究表明:相比于小参数模型,大参数模型不会承认它们的“无知”,而更倾向于生成错误答案。

   值得关注的是,人们并不善于发现这些错误。

[2] 科普中国,2024-06-23,Nature重磅:大模型的谎言如何“破”?

https://www.kepuchina.cn/article/articleinfo?business_type=100&classify=0&ar_id=504283

   世界卫生组织(WHO)的人工智能健康资源助手 SARAH 列出了旧金山本不存在的诊所的虚假名称和地址。

   Meta公司“短命”的科学聊天机器人 Galactica 凭空捏造学术论文,还生成关于太空熊历史的维基文章。

   今年2月,加拿大航空被命令遵守其客户服务聊天机器人捏造的退款政策。

   去年,一名律师因提交充满虚假司法意见和法律引用的法庭文件而被罚款,这些文件都是由 ChatGPT 编造的。

   ……

   如今,大语言模型(LLM)胡编乱造的例子已屡见不鲜,但问题在于,它们非常擅长一本正经地胡说八道,编造的内容大部分看起来都像是真的,让人难辨真假。

   在某些情况下,可以当个乐子一笑而过,但是一旦涉及到法律、医学等专业领域,就可能会产生非常严重的后果。

[3] 科普中国,2024-05-01,大模型等人工智能,是帮助还是损害全球气候?

https://www.kepuchina.cn/article/articleinfo?business_type=100&classify=0&ar_id=493067

[4] 科普中国,2024-04-23,2023年人工智能10大趋势,揭示AI大模型的“喜”与“忧”

https://www.kepuchina.cn/article/articleinfo?business_type=100&classify=0&ar_id=491634

[5] 科普中国,2023-09-02,雹暴中心收集数据、大模型加持极端天气预测,「追风者也」正在上演

https://www.kepuchina.cn/article/articleinfo?business_type=100&classify=0&ar_id=436229

[6] 科普中国,2023-08-22,AGI离我们还有多远?大模型不是最终解,世界模型才是未来

https://www.kepuchina.cn/article/articleinfo?business_type=100&classify=0&ar_id=434325

[7] 2022-12-23,大数据/big data/宋爱波,中国大百科全书,第三版网络版[DB/OL]

https://www.zgbk.com/ecph/words?SiteID=1&ID=154832&Type=bkzyb&SubID=81308

[8] 2024-03-28,大数据/big data/朱建平,中国大百科全书,第三版网络版[DB/OL]

https://www.zgbk.com/ecph/words?SiteID=1&ID=182856&Type=bkzyb&SubID=104245

[9] 2022-06-07,大数据特征/big data feature/杜小勇,李翠平,中国大百科全书,第三版网络版[DB/OL]

https://www.zgbk.com/ecph/words?SiteID=1&ID=219628&Type=bkzyb&SubID=147535

[10] 2023-05-18,大数据数据特征/features of big data/马双鸽,中国大百科全书,第三版网络版[DB/OL]

https://www.zgbk.com/ecph/words?SiteID=1&ID=183319&Type=bkzyb&SubID=201780

   大数据具备的“5V”特征,即数据量大(volume)、种类和来源丰富(variety)、价值密度低(value)、速度快(velocity)和真实性(vercity)五大特点。

[11] 2023-03-31,大数据预测/big data prediction/徐辉,石亚男,中国大百科全书,第三版网络版[DB/OL]

https://www.zgbk.com/ecph/words?SiteID=1&ID=496758&Type=bkzyb&SubID=147671  

[12] 2023-06-02,思维与存在的同一性/identity of thinking and being/仲佰,中国大百科全书,第三版网络版[DB/OL]

https://www.zgbk.com/ecph/words?SiteID=1&ID=727619&Type=bkzyb&SubID=137881

   思维和存在的同一性问题是人类实践活动中的普遍性问题,解决思维和存在的同一性的基础也只能是实践。在社会实践中,一方面存在可以转化为思维,即客观现实通过实践反映在人脑中成为观念形态;另一方面,思维也可以转化为存在,即思想、观念通过实践变为客观现实。在这种相互转化的过程中,实践产生关于存在的思维,检验关于存在的思维,发展关于存在的思维,使思维和存在不断在新的水平上达到具体的、历史的统一。

[13] 2023-07-18,实践/practice/仲佰,中国大百科全书,第三版网络版[DB/OL]

https://www.zgbk.com/ecph/words?SiteID=1&ID=727625&Type=bkzyb&SubID=137882

   实践被理解为人的生活过程,即主体与客体、人之能动性与受动性相统一的感性的生活过程,其最基础的形式是物质生活资料的生产。

   实践是人的存在方式或生活方式等观念,正在逐渐成为学界的共识。

          

相关链接:

[1] 2024-09-29,[笔记,小资料,惊悚] “线性模型稳健性” vs 《颠覆认知:AI大模型不可靠,越大越不可靠?!》

https://blog.sciencenet.cn/blog-107667-1453265.html

[2] 2024-05-23,[打听,讨论] ECMWF 人工智能天气预报 AIFS 的核心是什么?

https://blog.sciencenet.cn/blog-107667-1435372.html

[3] 2022-10-19,[想不明白] 几十页、上百页长的数学证明,真的可靠吗?(阿诺德、Chaitin)

https://blog.sciencenet.cn/blog-107667-1360078.html

[4] 2022-03-01,[科普 + 备课] Chaitin定理(1966年)

https://blog.sciencenet.cn/blog-107667-1327564.html

[5] 2024-03-04,[打听,数理统计,概率] 大数据里的“最简”最优子抽样方法是什么?

https://blog.sciencenet.cn/blog-107667-1424061.html

[6] 2018-08-18,“大数据”时期,更渴望“小样本数理统计学”

https://blog.sciencenet.cn/blog-107667-1129894.html

[7] 2022-07-25,[自己提出问题,提问] 与大数据与机器学习、数据挖掘等“数据科学”有关的一些问题

https://blog.sciencenet.cn/blog-107667-1348710.html

[8] 2024-09-12,[打听] “大贝尔实验合作组(The BIG Bell Test Collaboration)使用的“随机数”

https://blog.sciencenet.cn/blog-107667-1450874.html

[9] 2017-01-09,复杂方法在实际中往往用途不大(在有噪声的情况下)

https://blog.sciencenet.cn/blog-107667-1026473.html

[10] 2022-10-14,[小资料] 阿诺德原理、复杂的模型几乎毫无用处:出自 1998年《On teaching mathematics》

https://blog.sciencenet.cn/blog-107667-1359459.html

[11] 2024-05-16,[请教,讨论] 同一律与柯尔莫哥洛夫 Kolmogorov 的数学观

https://blog.sciencenet.cn/blog-107667-1434414.html

[12] 2024-10-22,[打听,笔记] 推导符号公式的局限性:从数学、心理学到哲学

https://blog.sciencenet.cn/blog-107667-1456506.html

               

感谢您的指教!

感谢您指正以上任何错误!

感谢您提供更多的相关资料!



https://blog.sciencenet.cn/blog-107667-1461085.html

上一篇:[科普,留念] 冬天,2024-11-09 上午 10点,打蚊子药
收藏 IP: 202.113.11.*| 热度|

4 王涛 宁利中 檀成龙 高宏

该博文允许注册用户评论 请点击登录 评论 (3 个评论)

数据加载中...

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2024-11-22 03:35

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部