AI理解功能的核心作用

——从“概率预测”到“理解负效应”的冷思考

刘永红

我们与AI交流，其实是AI的理解功能所至。在交流中，只有AI理解了，它才能深入我们的立场、发现我们的真实想法，从而减少偏见或误解，并精准判断我们的意图。因此，“理解”是人与AI交流的基石。

关键是我们要了解AI是否真的理解了对方的意图，是否随便敷衍了事。这主要体现在我们应用AI上具有重要的现实意义。

什么是AI理解功能？

简单说，就是让AI机器能“听懂”人话、看懂图像，并根据理解做出回应的能力。但是，AI并不是真的像人有意识和情感，而是通过海量数据去快速地学习相关知识与规律，再对新的输入进行判断、预测和优化。其主要技术手段是算法解析，技术支持是神经网络、大语言模型等。

AI有三个基本要素：

1. 数据集（知识颗粒）；

2. 算法（方法的选择与匹配）；

3. 算力（硬件与保障电力）。

因此，AI可以针对上下文进行推理，预测可能匹配的规范型句子，并确保在语法和字词方面不会出现错误，最后输出“四平八稳”的回答。但AI缺乏语境感，以及共情随动。如果你对AI的回答不满意，那么AI就按你的反馈再进行调整或修正。此刻，你以为它理解了，其实它的科学依据依然是统计的概率预测，也就是选择高频词和合乎逻辑的语言表达。

重要的是，AI不存在意识、情感和体感。所以说，AI的理解是不深刻的，对此我们并不感到意外；专业地说，就是“信息不对等”。但是想一想人无完人，你又何必强求AI呢？

AI的理解负效应

这里，我提出“AI的理解负效应”的概念：指AI通过理解形成的信息不对等所产生的负面影响。

举例来说：据网传CTO的邮件原文：“手写代码的时代已经结束了。”Meta已经没有人手写代码了，有数据显示：谷歌70%新增代码由AI生成。AI带来的是岗位重构，意味着AI直接干掉脑力岗位（AI替代了写代码的人），AI正在加速淘汰的步伐。说明这种负效应应引起人们高度重视。

意图匹配与提问的艺术

实际上，让AI真正理解你的意图，还涉及你会不会“提问”的问题。如果你输入的指令是模糊的，那么AI就很难猜测你的意图。不仅如此，评估AI理解力的标准，不是看它“知道什么”，而是看它的“意图匹配度”和“上下文连贯性”。

AI理解能力的边界

尽管AI已经达到专业水平，对一些强大AI，甚至可以说它是专家。但就AI的理解能力看，不能与大数学家媲美。譬如，创建一个新的数学分支，提出猜想、定义、公理、定理等，都是大数学家独特的杰作。

相当明显，AI的范式是“复用型”，而不是“创新型”。因此，AI根本无法打破现有的体系创造一个新的工具，只能完成逻辑推演，以及高效计算。比如，面对数学超级难题或猜想，AI即便“穷尽推演”，也不得其解，与数学大师相比不在一个维度上。

进一步说，AI对数学没有直觉，也没有抽象能力，更没有想象力——天生不具备数学家的判断力与战略眼光。然而，说真的“理解万岁！”

结语

我们对AI理解功能本质的讨论，将影响着我们对其贡献的认识，以及我们探索人类与AI之间美妙相互作用的方式。与此同时，这一点又引发了大语言模型问题，进一步激发了科学与哲学层面的讨论。

支持单位：