物理天平分享 http://blog.sciencenet.cn/u/freefloating 天平的常态是失衡,天平的理想是平衡,我摇摆着,追求...

博文

当无知开始以答案的形式出现:AI时代关于"知其不知"的一次追问 精选

已有 13799 次阅读 2026-8-1 22:05 |个人分类:来学往教|系统分类:观点评述

AI时代真正的教育问题,可能不是要不要用AI、怎样用AI,而是:当答案随手可得时,人如何保住对自己认知边界的察觉。

先从两件小事说起。有人相信AI给出的机票退改规则,多付了600元手续费;他要求赔偿,AI随即认错,还生成了一份措辞正式的"赔付承诺书"。到了约定日期,它才解释,自己只是语言模型,无法转账。还有人让AI预约餐厅,AI给出了时间、人数、预约号和签到码;顾客到店才发现,电话没有拨出,订座系统里也没有记录,所谓"预约成功",只发生在对话框中。

这样的事很极端,也确实可笑。但极端事件的价值恰恰在于放大:它把一种在每个人身上都存在、平时却难以察觉的认知特点,放大到了肉眼可见的程度。所以真正值得讨论的,不是为什么有人会相信AI,也不只是AI为什么会胡说。

AI犯错只是技术问题;人失去对自己认知边界的察觉,才是文明问题。

一、苏格拉底的智慧,不是知道得更多

两千多年前,德尔斐神谕宣称,没有人比苏格拉底更智慧。苏格拉底对此十分困惑:他并不认为自己掌握了多少了不起的知识,于是去拜访那些被雅典人视为聪明的人,包括政治家、诗人和工匠。

他后来发现,这些人确实各有所长,却也常常因为在某一方面有所成就,便以为自己在其他问题上同样拥有判断力。苏格拉底最终理解了神谕的意思:他不是比别人知道得更多,区别只在于,别人不知道,却以为自己知道;而他不知道,也不以为自己知道。

人们后来常把这种智慧概括为“我知道自己一无所知”。

这不是谦虚的姿态。苏格拉底揭示的是认识活动最基本的前提:只有当一个人能够辨认自己的知识在哪里终止,真正的求知才可能开始。“我不知道”并不是知识的敌人,而是知识的边界。它像地图上的空白,提醒我们:这里尚未勘探,不能把想象当成道路,也不能把推测当成地形。

人类最古老的一种智慧,不是拥有所有答案,而是能够辨认哪里还没有答案。AI时代正在动摇的,恰恰是这种能力。

二、无知改变了自己的外观

过去,无知通常表现为空白。不知道退票规则,就去查询航空公司的规定;不知道餐厅是否有座位,就打电话询问;不了解一所学校,就向真正读过、考过、工作过的人请教。

不知道,会带来迟疑。迟疑减慢了行动,却也保留了认识的入口。它提醒人:自己的判断还不完整,必须等待更多事实进入。

今天,空白几乎可以被瞬间填满。无论问题多么具体,AI都能迅速生成一段完整回答:原因、流程、比例、风险和建议,甚至附上一张表格、一份合同或者一封承诺书。它很少真正沉默。

问题是,当机器不知道的时候,它仍然可以给出答案;而当人看到答案以后,便不再知道自己原来并不知道。于是,无知第一次不再以空白的形式出现。它开始以答案的形式出现。

这是一个比“AI会不会出错”更深刻的变化。过去的无知至少具有可见性:人会停顿,会犹豫,会说“这件事我不清楚”。今天的无知却可能语言流畅、结构完整、逻辑严密、语气笃定。它有标题,有层次,有依据,有结论,有时还有数字、表格和参考文献。

它具备知识的一切外观,却未必经历过知识形成的过程。它没有接触事实,没有承担检验,也没有经过现实的阻力。它只是生成了一段“答案应该有的样子”。

无知并没有消失,它只是失去了无知的外貌。

三、从无知到“答案型无知”

这里需要区分两种不同的“不知道”。第一种,是不知道某个事实:不知道这张机票的退票费,不知道这家餐厅是否有座位。这是普通的无知,不可耻,也不可怕。人的知识永远有限,每个人每天都生活在大量的"不知道"之中。

第二种更加危险:我不知道自己不知道。

这可以称为“元无知”。它不是知识内容的缺失,而是一个人对自身认知状态的判断发生了偏差:本来没有掌握事实,却以为自己已经掌握;本来只是听到一种可能,却以为得到了结论;本来只是借来一段语言,却以为完成了一次思考。

AI最值得警惕的影响,正在这里。它未必直接增加了一个人的知识,却可能提高了这个人对自己知识的估计。一个人原本会说“我不懂这个问题”,问过AI以后,却开始说“我已经研究过了”。实际上,他只是获得了一段通常在研究完成之后才会出现的文字。求证、比较、怀疑、修正,这些原本位于答案之前的活动,被直接跳过了。人从问题抵达结论,却没有走过中间的道路。

我原本不知道。AI给出了一个答案。我因此以为自己知道。

我愿意把这种状态称为“答案型无知”。有时它还会发展出第四步:人拿着AI给出的答案,反过来否定那些真正接触过事实的人。于是,屏幕上虚构的预约可以否定餐厅的真实系统;通用的院校分析可以否定考生本人的经验;一段没有任何授权的AI话术,可以被理解为某个机构作出的正式承诺。

AI并没有真正缩短人和事实之间的距离,它只是缩短了人对这段距离的感受。普通的无知会寻找知识;答案型无知却可能拒绝知识,因为在它看来,问题已经解决,结论已经形成,继续核实反而显得多余。

无知一旦拥有了答案,也就同时拥有了自信。

四、这不是“低认知人群”的专属风险

人们很容易带着优越感看这些故事,仿佛只有所谓“低认知人群”才会上当。但同样的结构,在大学教授、科研人员和专业人士身上一样出现。

研究者把一组数据交给AI,AI会迅速解释某个异常结果“是由什么机制造成的”;询问某个学术问题,AI会声称自己“查询了相关文献”;要求整理参考资料,它会生成作者、题目、期刊、年份、卷期和页码一应俱全的文献列表。

这些内容符合学术语言的全部外观:因果链完整,术语准确,格式规范,语气没有迟疑。于是,即使是熟悉科研规范的人,也可能在同样的逻辑下选择相信:它写得如此具体,应该是查过了;这些文献连卷期页码都有,应该真实存在。然而,AI可能并没有检索数据库,没有阅读原文,也没有证据证明它所描述的机制真正适用于眼前这组数据。它只是生成了一种在学术场景中“最像正确答案”的语言形式。

问题并不按照学历和职称分布。一个人在自己的专业领域中可以非常敏锐,却不可能熟悉所有相关问题;教授也会进入陌生领域,科研人员也会面对超出自身专长的材料。有时,专业训练甚至带来一种更隐蔽的风险:学者熟悉学术表达的形式,而AI恰好能够极其熟练地复制这些形式。术语、引文和完整论证,本来是知识经过严格加工后留下的痕迹;当AI能够轻易复制这些痕迹时,人便可能把“符合学术表达规范”,误认为“符合学术证据规范”。

普通人可能相信AI已经替他预约了餐厅;研究人员则可能相信AI已经替他查阅了文献。两者看起来相距很远,背后的认知结构却十分相似:AI声称自己已经接触过事实,而人没有继续确认这种接触是否真正发生。

因此,真正重要的不是一个人聪不聪明,而是他能否在每一个具体问题上重新校准自己的认知边界。学历、职称和既往成就,都不能永久替人完成这项工作。

五、语言与事实之间的旧契约正在松动

为什么一段AI生成的文字,会如此容易获得人的信任?

因为在人类长期的经验中,答案的形式与知识的形成联系在一起。一个人能够清楚解释一件事,我们推测他理解了这件事;一个人能够列出依据、步骤和结论,我们认为他做过调查;一个人能够郑重道歉并写下承诺,我们默认他是一个可以行动、也可以承担责任的主体。语言是人的思想、经验和行动留下的痕迹,我们通过语言,反推说话者接触过什么、理解了什么、做过什么。

大模型打破了这种古老联系。它可以生成理解的语言,而不必拥有理解;可以生成行动的叙述,而不必实施行动;可以生成责任的语气,而不必成为责任主体。它可以说“已经为您预约”,但没有拨打电话;可以说“我愿意赔偿”,但没有账户、授权和支付能力;可以说“根据您的具体情况”,但它掌握的可能只是对话中的寥寥几句话。

语言过去是认识的证据;现在,它也可能只是认识的模拟。

这不只是“AI说错了”。更根本的问题是:语言与事实之间原本默认的契约,开始变得不再可靠。当语言仍然保留着知识、行动和责任的外形,却不再必然连接知识、行动和责任,人类就必须重新学习怎样判断一个答案。

流畅不能再被自动视为理解。完整不能再被自动视为真实。自信不能再被自动视为可靠。第一人称也不能证明,说话者真的是一个能够行动和负责的“我”。

六、知识不仅有数量,还有位置

AI也在悄悄改变权威的结构。过去,我们判断一个人是否值得相信,通常会考虑他与事实之间的距离:餐厅工作人员比通用模型更接近订座系统;参加考试的学生比从未见过她的模型更了解自己的能力;医生比搜索结果更了解具体患者;一个机构正式发布的规则,比AI对规则的概括更有现实效力。

但在“AI比人厉害”的笼统叙事中,人们很容易形成另一种推理:AI读过的信息比任何个人都多,所以它在任何具体事情上,都应该比具体的人更正确。这是一个从“知识广度”到“判断权威”的错误跃迁。

知道得广,不等于知道得切近。掌握一般规律,不等于掌握具体情境。拥有海量语言材料,不等于接触过眼前的事实。

一个模型可以知道大量关于考研的公开信息,却不知道一个学生经历过怎样的失败,承受着多大的压力,真正愿意过怎样的生活;它可以熟悉餐厅预约的典型对话,却不知道这家餐厅的电话是否真的被拨通。

知识不仅有数量,还有位置。有些知识来自数据库,有些知识来自现场;有些知识可以被概括,有些知识必须由身处其中的人理解和承担。当人用一个远离现场的通用答案,去否定一个接近事实的具体判断时,AI带来的就不只是信息错误,而是认知秩序的倒置。

七、答案型无知,也会在代际之间传递

这个话题的起点,是一次与学生的谈话。

学生说到父母,也说到一些年长的老师:他们对AI的认知其实非常有限,却把“AI说的”当成新的权威,用压迫的方式否定孩子的亲身经验和独立判断。一个并不理解新技术的人,借着AI的语言,反而获得了比过去更强的确定感。这正是上一节所说的倒置,在家庭和课堂里的形态:一段远离现场的通用回答,压过了一个身处现场的具体的人。

学生由此问:为什么有些人年纪越大,接触新事物时学得越慢?

我的回答是:问题不在年龄。每个时代都有一批始终保持探索精神的人,他们不因资历、地位和年龄的增长而停止理解新的世界。看看今天站在数学最前沿的人就知道:从陶哲轩,到刚刚获得菲尔兹奖的邓煜,两代菲尔兹奖得主恰恰都是AI最深度的使用者,其使用的深度超过绝大多数年轻人。这样的人在任何年龄都会这样做。他们不是被时代推着走,而是不断修正自己的知识结构,主动进入时代最前沿的问题之中。

年轻人学新工具确实更快,因为他们的偏见更少、惯性思维更少,尚未形成牢固的经验框架。但快,不等于开放。一个很会使用AI的年轻人,如果没有批判精神、求真意识和自我修正的能力,最终也会长成他父母今天的样子,只是换一种形式的死板。多年以后,他未必重复父母的语言,却可能用那时最新的权威,压制下一代。

所以真正的问题从来不是谁更会用工具,而是思维。

年轻并不天然意味着开放,年长也不必然意味着僵化。真正使一个人不断衰老的,不是年龄,而是认知停止了更新;真正使一个人始终年轻的,也不是对新工具的熟练,而是仍然愿意被事实改变。

八、AI同时降低了求真的门槛,也降低了自欺的门槛

讨论AI带来的认知风险,并不意味着AI正在使求真变得越来越困难。恰恰相反,对真正试图理解世界的人而言,AI可能是人类历史上极为重要的认知工具。它能够帮助研究者迅速进入陌生领域,比较不同解释,检查推理中的漏洞,编写程序,处理数据,模拟假设,并从海量材料中发现原本难以看见的联系。

过去,一个人的知识边界往往同时也是其探索能力的边界。许多想法并不是没有价值,而是提出者缺少时间、资源或跨学科训练,无法把它们推进到可以检验的程度。AI正在改变这种状况:一个真正怀有问题的人,可能借助AI补足技术上的缺口;一个处在学科边缘的想法,也可能因为快速计算、文献检索和多种方案比较,更早进入可验证的阶段。

因此,很难笼统地说AI使求真变得更容易还是更困难。它同时推动着两个相反的过程:

AI同时降低了求真的门槛,也降低了自欺的门槛。

对于有求真愿望的人,AI扩大了探索的可能;对于只想尽快获得确定答案的人,AI则扩大了自我确认的可能。两者有时使用完全相同的工具。

同样是询问某个实验结果为什么出现,一个研究者会把AI的解释当作待检验的假设,继续寻找证据,比较竞争机制,并准备在新信息出现后修正判断;另一个研究者则可能把这段解释直接写进论文,因为它术语准确、逻辑完整,也正好符合自己希望看到的结果。同样是一份文献列表,一个人会逐篇核对题目、作者、期刊和原文,借助AI缩短检索时间;另一个人则因为格式完整,便默认这些文献真实存在。

区别不首先在于他们是否使用AI,而在于他们究竟把AI的回答当作探索的起点,还是认识的终点。

九、真理不是一个答案,而是一个方向

所谓求真的心,并不是一种抽象的道德姿态。它表现为一些具体的认知行动:愿意怀疑一个符合自己期待的结论;愿意区分事实、解释、假设和猜测;愿意承认证据暂时不足;愿意让新的信息修正原来的判断;也愿意在无法确定时,把问题继续保留下去。

真正的怀疑精神,不是对一切都说“不可信”,而是不让任何答案因为流畅、权威或者符合愿望,就自动取得真理的地位。

一个有求真方向的人不会因为AI可能犯错,就拒绝AI。他会使用它,甚至大量使用它。但他清楚,AI生成的解释是一种可能,检索到的材料需要核实,推演出的结论仍要接受现实检验。AI可以帮助他走得更远,却不能替他决定哪一条路通向真实。

从这个意义上说,真理并不是屏幕上最后出现的那一段答案。真理更像一个方向。人可能暂时走错,也可能不断修正;可能暂时没有最终结论,却仍然比那个过早宣布自己已经知道的人,更接近真实。

苏格拉底式的“知其不知”,并不是要求人永远停留在无知中。它的意义恰恰在于,为认识保留继续运动的可能。因为我知道自己可能不知道,所以我愿意再看一眼,再查一次,再听取另一种解释,也愿意在证据变化时改变自己。

真正危险的不是获得答案,而是答案使认识的运动停止。

十、我们需要保留的,不是怀疑一切,而是真理的方向

因此,AI时代真正值得关注的,或许不是那个人们急于回答的问题:它究竟让人变聪明了,还是变愚蠢了。

AI更像一种认知放大器。它能够放大人的好奇,也能够放大人的偏见;能够放大求证的能力,也能够放大自我确认。一个人带着问题走向AI,可能获得更广阔的探索空间;一个人带着结论走向AI,也可能得到一整套为结论辩护的材料。AI并不自动决定认识的方向,它只是使人沿着既有方向走得更快、更远,也可能更不容易察觉自己已经偏离。

所以,AI时代真正稀缺的,不是怀疑一切的能力,而是始终保存真理方向的能力。它意味着,我们使用AI,不是为了尽快结束问题,而是为了让问题变得更清楚;不是为了获得一段可以引用的话,而是为了看见还有哪些证据没有进入;不是为了证明自己原来就是对的,而是允许自己在看见更多之后发生改变。

工具会不断更新。今天是AI,明天还会有新的技术。但决定一个人能否跟随时代前进的,始终是他是否愿意怀疑既有结论,是否能够承认自己的无知,是否愿意在新事实面前修正自己。从这个意义上说,AI教育首先不是工具教育,而是科学精神的教育。它要培养的,不只是会提问、会调用模型、会生成答案的人,而是在任何年龄、任何身份和任何技术面前,都能保持开放、批判与求真的人。

两千多年前,苏格拉底的智慧,是不知道时不以为自己知道。两千多年后,这种智慧需要一种新的表达:当AI给出了答案,我们既不必立即相信,也不必立即拒绝,而要继续问:它依据的是什么?还有什么没有被看见?什么证据可能推翻它?在新的事实面前,我是否愿意修正自己?

AI可以给人答案,但只有求真的心,才能让答案继续通向真实。

AI时代真正的分界线,不在于谁使用AI、谁拒绝AI,不在于谁的学历更高、知识更多,也不在于谁的年龄更大、资历更深。有人借助AI继续追问,有人借助AI停止追问。

问题从来不只是我们能否得到答案,而是得到答案以后,我们是否仍然愿意向真实出发。即使文字已经完整,逻辑已经闭合,结论已经出现,我们仍然能够停下来问一句:它真的知道吗?而我,真的已经知道了吗?

即使答案已经出现在屏幕上,仍然有勇气承认:等等,我还不知道。

参考:

1. 柏拉图《申辩篇》21d:苏格拉底关于"我所不知道的,我也不以为自己知道"的论述。https://www.perseus.tufts.edu/hopper/text?doc=Perseus%3Atext%3A1999.01.0170%3Atext%3DApol.%3Asection%3D21d

2. 《每日经济新闻》:用户称轻信豆包退机票亏600元,豆包生成"赔付承诺书"并协助起草起诉材料,2026年5月20日。https://www.nbd.com.cn/articles/2026-05-20/4401452.html

3. 新浪科技:豆包虚构"餐厅预约成功"事件报道,2026年5月19日。https://finance.sina.com.cn/roll/2026-05-19/doc-inhymqci2229053.shtml

4. Lee 等:The Impact of Generative AI on Critical Thinking,CHI 2025。该研究讨论了知识工作者使用生成式AI时,信心、认知投入与批判性思考之间的关系。https://doi.org/10.1145/3706598.3713778

5. 2026年7月23日,国际数学联盟在费城国际数学家大会上公布本届菲尔兹奖得主,邓煜因偏微分方程领域的工作获奖,包括从稀薄气体硬球动力学严格推导玻尔兹曼方程。

注:文中两则现实案例依据公开媒体报道整理。文章关注的不是对个体使用者的嘲笑或归责,而是AI时代认知边界、语言权威与求真方式正在发生的变化。



https://blog.sciencenet.cn/blog-42659-1546104.html

上一篇:别把699分活成算盘:用"最小作用量原理"理解高考志愿选择




    
收藏 IP: 27.192.32.*| 热度|

27 霍小鹏 杨正瓴 刘进平 许培扬 毛善成 武夷山 钟茂初 郑永军 张江敏 彭真明 崔锦华 徐芳 梁忠诚 康建 乔中东 曹须 晏成和 吕健 蒋大和 农绍庄 尤明庆 朱林 钱大鹏 檀成龙 史仍飞 李志林 聂广

该博文允许注册用户评论 请点击登录 评论 (10 个评论)

数据加载中...

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2026-8-9 00:24

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部