twhlw的个人博客分享 http://blog.sciencenet.cn/u/twhlw

博文

GPT与Deepseek等数据驱动AI的缺点 精选

已有 5525 次阅读 2025-2-3 06:54 |个人分类:2025|系统分类:科研笔记

当前数据驱动的AI(包括GPT与Deepseek等各种大小模型)只进行了数/物理性的初步探索,尚未触及人机环境生态系统的复杂性。也就是说,当前的数据驱动型 AI,虽然在处理大量数据、解决特定任务方面取得了显著进展,但它依然面临着许多局限,尤其是在适应复杂的人机环境生态系统方面。

一、目前的数据驱动 AI的局限

目前的 AI 系统通常依赖于海量的数据训练,但这些数据往往缺乏对环境、情境和社会文化的深度理解。比如,AI 在自然语言处理和对话生成方面有了很大的突破,但它们对于情感、文化背景、非语言交流的理解还是很有限的。

大多数 AI 系统擅长于执行单一的、明确的任务(例如推荐系统、图像识别等),但它们在处理多任务和综合问题时表现较差。人类的思维可以在多个任务和领域之间迅速切换,并且考虑到相互之间的复杂性和影响,但目前的 AI 很难做到这一点。

许多 AI 模型的设计仍然集中在局部优化——即通过最大化某个目标(如准确率、效能等)来取得最好结果。然而,在一个复杂的、动态的生态系统中,过度关注局部优化可能导致系统其他部分的平衡失调,进而产生不可预期的后果。如推荐算法只关心提升某一项目标(点击率等),可能导致信息的偏向性和反馈回路。

数据驱动的 AI 依然存在“机器幻觉”(或叫做“幻觉”)这一局限性。这个现象通常表现为 AI 给出的答案或预测是错误的,但它本身并不知道这些错误是如何产生的,也不容易察觉到问题。它可能会生成看似合理的回答或结果,但这些答案可能完全偏离事实,或在某些情况下基于不准确或不完整的数据,其复杂性更在于AI 无法像人类一样拥有“常识”和“判断力”,它只能基于数据做出推断,因此某些错误可能直到产生不良后果时才被察觉。

尽管 AI 在自动化和任务分配方面逐渐得到应用,但人机协作的复杂性仍然是一个未解的难题。我们如何设计AI系统使其更好地理解人类的需求、情感、意图,以及如何与人类有效合作(而不仅仅是替代)仍然是一个挑战。人类和机器的互动是一个非常复杂的过程,涉及信任、意图对齐、动态适应等层面。

二、人机环境生态系统的复杂性

人机环境的生态系统不仅仅是由机器和数据构成的,它还包含了人与环境、社会、文化、伦理等多维因素。这种复杂的系统涉及:1)动态交互与反馈。人机交互的过程是动态变化的,涉及到机器对环境变化的适应,以及人类在使用技术过程中反馈给机器的调整。AI 在这些动态互动中必须具备高度的适应性和灵活性,才能真正融入到复杂的生态系统中。2)伦理与价值观。不同的社会和文化背景下,关于AI的价值观、道德标准、使用场景等都有不同的理解。在全球化和多元化的社会中,AI需要在不同的文化语境下“学习”并进行相应的调整,才能满足多元的需求。3)环境和资源限制。人机环境生态系统还包括了自然资源、能源、生态保护等方面。在设计 AI 系统时,需要考虑如何在有限的资源和环境压力下,优化其运行效率并减少负面影响。

三、未来的发展趋势与方向

为了突破这些局限,我们可能需要从以下几个方面进行探索:1)跨学科的融合研究。数据科学、心理学、社会学、伦理学、环境科学等多领域的交叉融合,将有助于我们更好地理解人机环境生态系统的复杂性。AI的设计不仅仅要考虑计算效率和模型准确性,还要考虑人与机器的关系、社会文化的需求以及生态环境的承载能力。2)多任务学习和协同智能。下一代的 AI 需要具备处理多任务和多领域的能力。这种“协同智能”不仅仅是机器间的协作,也包括机器与人类的合作。AI 应该能够理解人类的多重需求,并根据实时的环境反馈调整自己的行为。3)伦理和透明性。随着 AI 的影响力不断扩大,伦理问题将变得尤为重要。AI系统的设计需要强调透明性、可解释性以及人类监督,确保机器的决策与人类的价值观和伦理标准相一致。强化学习和自适应机制。AI 需要发展更复杂的学习机制,能够在不同的环境下自我调整。通过强化学习等技术,AI 可以不断从与环境的交互中获取新的经验,优化其决策过程。

简言之,虽然当前的数据驱动型 AI 已经取得了很多成就,比如GPT、Deepseek 等,但要完全融入复杂的人机环境生态系统,还需要更深入的研究和发展。未来的智能系统不仅要处理数据,更要处理人类的需求、环境的变化和社会的多元价值。这种人机环境生态系统的构建需要更加全面的视角和技术创新。


Screenshot_20240518_072312.jpg






https://blog.sciencenet.cn/blog-40841-1471403.html

上一篇:智能中的计算与算计
下一篇:人机智能的边界:心理与芯理
收藏 IP: 123.119.249.*| 热度|

5 许培扬 曾杰 汪运山 郑永军 冯圣中

该博文允许注册用户评论 请点击登录 评论 (2 个评论)

IP: 183.7.255.*   闁搞儳鍋涢ˇ锟� | 閻犙嶆嫹 閻犙嶆嫹 +1 [2]guest28121089   2024-5-25 11:35
闁奸绀佺粭鈧柨娑樼焷缁绘牗绋夐鍕暥閻庣顫夊Σ鎼佹閳ь剛鎲版担钘夊壒閻犲洣绲婚崕妤呮偄閻旂儤鐣遍柛姘殣缁憋拷
IP: 73.223.207.*   闁搞儳鍋涢ˇ锟� | 閻犙嶆嫹 閻犙嶆嫹 +1 [1]闁哄倸娲ㄩ顒勫疾閿燂拷   2024-5-24 23:56
闁告鑹鹃敍瀣偨閻旂ǹ澶嶉柛娆愵殘鐎氼厾绮╃€n亙绱eù锝嗙矌濞堟垹鎷嬮鐘电煀闁挎稑濂旂徊楣冨及椤栨矮绮甸柣銊ュ椤曡櫕锛愬Ο缁樞﹂悗鐢靛帶缁椻偓闁汇垹鐤囬顒勫级閵壯勭暠闁挎稑鐬肩划锛勬嫻闁稓鐦嶉柡鍕靛灠椤曡京鏁崼鐔风倒濞撴碍绋撳▓鎴﹀Υ閸屾粍鍩傛慨婵撶到缁辨垶鎱ㄧ€n剙顏紒鏂款儏娴犳盯鎯嶉弮鍌楁晙闁哄嫷鍨划鐘诲础濮橆剨绱滈柛姘缁辨垶鎱ㄧ€e墎绐楅梺顐㈩樀椤d粙濡存担鐑樻殼閻犲洭顥撶划锛勬嫻楠炲簱鍋撴担钘夋灎濞戞梹婢樼换鈧悷鏇氭閸楀酣宕抽妸顭戝晭濠㈣泛娲㈤埀顑跨娴犳盯鎯嶉弮鍌楁晙闁告粌鑻崯鎾舵媼閻戞ɑ鐎紒娑橆檧缁辨繈寮伴姘Е濠㈣鍋勯幃妤呮儍閸曨偂绱eù锝嗗殠閳ь剨鎷�
闁搞儳鍋涢ˇ锟�  闁挎冻鎷� 闁哄嫷鍨冲▓鎴︽晬鐏炵偓鐎柤棰佺缁椻偓闁挎稑鐭佺换鏍煂瀹€鍕〃闁哄牆顦鐔虹矓閹存繃鈻曠€殿喖鍊堕埀顒€鍊归崹銊╂嚀閸涢偊鍤涢梻鍛箳濞煎啰绮旈幋婵愬妳闁告瑦鍨甸惈宥夋晬鐏炲浜g紒澶嬪灥椤掔喓鎼炬繝鍐╅檷閻℃帒锕ョ粊锔炬偘瀹€瀣缂佸鍨甸鐔兼儘閺冨倵鏁€鐎规瓕灏欑划鈩冪▔瀹ュ棙笑闁告娲樻晶锕傛偑椤掍焦鐏嶅ù婊冩閳ь剙鍊界换鏍焊鏉堫偒娲f慨鐟板€哥敮顐﹀嫉椤掆偓濠€顏堝础濮橆剨绱滈梻鍐煐椤斿矂鎯冮崟顓烆仾缂佹柨顑嗛埀顑啰鍚欓柛蹇庣串缁辨繈骞掗妸銊х闁告帡顣︾花锟犲础濮橆剨绱滈柛姘叄濡礁鈻撻悙鍏夊亾閸屾凹娲ら柡瀣矊瀹曘儲绔熼銏″€靛☉鎾崇Т閸ㄣ垽宕氭0浣哄晩濞戞挴鍋撳☉鎿冧簼濠€渚€寮姀鐘垫毎濞寸姾顕ф慨鐔兼儍閸曨偁浜g紓浣稿缁辨繃绂掑鍥уЁ闁哄嫷鍨粭澶愭偨閵娧冾仾缂佹柨顑嗛埀顒佺箚閳ь剙鍟板▓鎴﹀灳濠婂嫭鍎旈柣顔界墤閳ь剚绻愮槐婵嬫焽閿濆懏鐨戠€电増顨呴崺宀勫础濮橆剨绱滈柛姘閹骞嶅鍫濆幋闁糕晝鎳撻崥鍥偑椤掑倻褰岄柟顑倻鍟婇柕鍡嫹
2024-5-25 17:221 婵°倗銆嬬槐娆撳炊閻愬樊妲绘俊銈夋?鐎靛矂鏁嶉敓锟� 閻犙嶆嫹 閻犙嶆嫹 +1 | 闁搞儳鍋涢ˇ锟�

1/1 | 闁诡剚妲掗锟�:2 | 濡絾鐗犻妴锟� | 濞戞挸锕g粩瀛樸亜閿燂拷 | 濞戞挸顑勭粩瀛樸亜閿燂拷 | 闁哄牜鍋婇妴锟� | 閻犲搫鐤囧ù锟�

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2025-4-23 06:43

Powered by ScienceNet.cn

Copyright © 2007-2025 中国科学报社

返回顶部