twhlw的个人博客分享 http://blog.sciencenet.cn/u/twhlw

博文

人工智能的边界:算计 精选

已有 1974 次阅读 2026-2-12 12:20 |个人分类:2026|系统分类:科研笔记

人工智能的边界在于算计而不是计算,触及了当前AI发展的核心矛盾——计算能力的指数级增长与复杂情境中“策略性决策”能力之间的鸿沟。这里的“计算”指基于明确规则、数据和算法的逻辑推演(如数学运算、模式匹配),而“算计”则更强调对动态情境、隐含意图、价值权衡和博弈策略的综合判断,更接近人类“审时度势、趋利避害”的智慧。

一、计算:AI的“长板”,但非全部

当前AI的核心优势在于计算效率与规模。从早期的专家系统到深度学习,再到大模型(如GPT-5、PaLM),AI通过海量数据训练、并行计算和参数优化,在确定性或弱不确定性任务中已超越人类,图像识别(准确率超人类)、语音翻译(接近母语水平)、棋类博弈(AlphaGo击败顶尖棋手)、药物分子筛选等,本质都是“计算”的胜利——将问题转化为可量化的特征,通过统计规律或优化算法求解。还有,大模型的“涌现能力”(如逻辑推理、知识整合)看似接近“理解”,但底层仍是概率预测(根据上下文生成最可能的输出),而非真正的“意义建构”。

二、算计:AI的“短板”,却决定边界

“算计”的核心是在不确定、多目标、动态变化的情境中,综合意图、价值、经验和博弈关系做出策略性选择。它超越了单纯的计算,涉及以下几个关键能力:

1. 意图与价值的隐性理解

人类决策常隐含未明说的目标(如“照顾他人感受”)或动态变化的价值排序(如紧急情况下“安全优先于效率”)。如医生诊断时,不仅要分析化验数据(计算),还要考虑患者的生活习惯、心理状态(算计);商业谈判中,需捕捉对方的潜在诉求(如“维护面子”),调整策略(如让步或施压)。当前AI缺乏对“意图”的深度建模能力,只能基于显式数据响应,难以处理“弦外之音”。

2. 动态情境的适应性

真实世界的问题往往没有固定规则,且环境会随行为改变(如交通拥堵时的路径规划、股市波动中的投资决策)。此时,“算计”需要实时感知-评估-调整的闭环,类似人类的“直觉+试错”。自动驾驶遇到突发事故(如行人突然闯入),需在毫秒内权衡“急刹可能追尾”“避让可能撞树”的风险,这种“两难选择”依赖对场景的整体判断,而非预设算法;军事指挥中,需根据敌方动向灵活调整战术(“兵者诡道”“兵不厌诈”),本质是动态博弈的“算计”。

3. 有限信息与模糊性的处理

现实中,信息常不完整或矛盾(如市场调研的部分失真、情报的不确定),“算计”要求在模糊中提取关键信息并做出合理假设。例如,创业者在资源有限时,需判断“投入哪个赛道更可能成功”,依赖对行业趋势的经验性洞察(而非精确计算);法官断案时,需结合法律条文、社会公序良俗和具体案情(模糊信息),平衡“严格执法”与“人性关怀”。

三、为什么“算计”是边界?

当前AI的瓶颈并非计算能力不足(算力仍在指数增长),而是缺乏“具身性”、“反身性”和“价值导向”的底层逻辑。具身/反身性缺失,人类智能源于身体与环境的互动(如婴儿通过抓握学习空间概念)与反思,而AI的“智能”是离身的(仅处理数字信号),难以真正“理解”物理世界和社会关系的复杂性;价值无涉性,AI的决策基于训练数据的统计规律,无法像人类一样内嵌道德、情感等价值判断(如“电车难题”中选择救谁)。因此,即使计算能力无限增强,AI仍可能在需要“算计”的场景中受限——它无法替代人类对“意义”的追求,也无法处理“没有最优解,只有更优解”的复杂决策。

四、未来:计算与算计的融合

突破AI边界的关键,或许是“计算为基,算计为魂”的融合符号主义与连接主义的结合,用符号系统(如知识图谱、逻辑规则)显式表达意图和价值,用神经网络(计算)处理非结构化数据,形成“可解释的算计”;人机协同的“增强智能”,让AI负责计算(如快速分析数据),人类负责算计(如制定策略、把握方向),例如医疗领域的“医生+AI诊断”、金融领域的“分析师+量化模型”;具身/反身智能的探索,通过机器人、虚拟仿真环境(如元宇宙)让AI“体验”物理世界,学习动态情境中的策略(如波士顿动力机器人的平衡控制)。

总结

“计算”是AI的“肌肉”,决定了它能走多快;“算计”是AI的“大脑”,决定了它能走多远。当前AI的边界,本质上是“计算主导”与“算计缺失”的矛盾。未来的智能革命,或许不在于更强大的计算,而在于如何让机器学会“像人一样算计”——这既需要技术突破(如价值对齐、因果推理),也需要对“智能”本身的重新定义。

石头剪子布.jpg

无标题.jpg



https://blog.sciencenet.cn/blog-40841-1522079.html

上一篇:人-智能体协同的信任研究
收藏 IP: 124.64.127.*| 热度|

1 王安良

该博文允许注册用户评论 请点击登录 评论 (1 个评论)

数据加载中...

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2026-2-13 09:17

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部