Sora之后，我们如何拯救真相？

李侠 李双

（上海交通大学 科学史与科学文化研究院）

2024年2月15日，美国人工智能研究公司OpenAI发布人工智能文生视频大模型Sora，该模型可深度模拟真实的物理世界，并能生成包含多个角色及特定运动的复杂场景。目前，根据用户的文本提示，Sora可以创建长达60秒的逼真视频，这是近日互联网上最火爆的科技新闻。两年来从ChatGPT3.5、GPT-4 Turbo，再到今日的Sora，可以说OpenAI公司正以惊人的迭代速度创造着人工智能的奇迹。

这几日笔者仔细翻看网络上流传的Sora模型制作的短视频，那高质量的画面与周围环境的匹配度无比丝滑，即便笔者亲自拍摄也拍不出这个效果，坦率地说，如果让我去鉴别其真假，相信大多数人和笔者一样是没有能力进行区分的。需要说明的是，从工业化时代到互联网时代以来的无数次技术变革所带来的真假难辨现象（如人造金刚石与钻石的鉴别等），与今天Sora短视频在本质上是一样的，所不同的是随着技术的迭代与升级，鉴别真假的难度越来越高，这就引发了一个具有普遍性的、令人焦虑的问题，Sora之后我们如何拯救真相？

当真与假的界线崩塌之后……

毫无疑问，以Sora模型为代表的人工智能正处于新一轮科技革命的前奏，随着应用场景的渐次绽出、新的盈利模式的涌现以及技术迭代的加速，人工智能带来的科技革命势不可挡。其广阔的商业前景暂且不表，笔者更加关心的是其对社会观念与群体认知带来的直接冲击，因为Sora模型所构建的视频或将直接模糊真与假的界限，再加上日益临近的现实与虚拟界限的双向渗透，这一切将导致整个社会的认知架构崩塌，随之而来的一系列急剧的连锁反应可能使人猝不及防，可以说，技术又一次让人类被动地站在转变的关口，为此，我们不妨先设想一下当真与假的界线崩塌之后会出现什么情况？

假设诈骗分子掌握了这项技术，利用专门收集的个人信息制作短视频，视频中的人、地点、时间全部是真实的（声音也是可以技术处理的），再完全按照脚本设计（如谎称受害人遭遇车祸急需打款救治），此时受害者家属如何鉴别真伪？对比下来，以往的电话诈骗十分低级；再比如政敌/仇家利用虚假的不良短视频陷害竞争者，公众何能辨之真假？在这种场景下，“眼见为实”的传统鉴别标准已经失灵（这个标准本身技术含量就很低），这类场景还可以列出很多，所有这些潜在危害的实质在于真假界线崩塌所带来的真相隐遁现象。

如果缺乏相应的强力监督机制，未来的每个人都有可能成为新技术的受害者，这就是技术发展的吊诡之处：很多人没有享受到技术带来的红利，却无端承担了技术滥用带来的不便（如各种数字技术对于老年人的不友好表现）。真与假界线的崩塌引发的更为严重的问题是，它会摧毁维系社会有序运行的一系列概念与认知框架，并以多米诺骨牌的方式将整个社会推向失范与无序状态。

众所周知，所有的社会秩序框架与规则的底层所依托的基本概念大抵有三：真、善、美，其中真是最底层的基础概念，它决定了善与美的标准的变化方向，换言之，如果真相不存在了就会出现事实的建构主义，这会导致认识论上的相对主义，而这种相对主义延伸到道德领域就会出现道德相对主义，即否认存在普遍的道德事实，在这种相对主义的主宰下，原本就属于主观领域的审美就会被扭曲塑造。具体而言，真在社会运行中起着确立信任体系的作用，一个社会的真相越是得到彰显，其信任体系的半径就越大，整个社会的交易成本越低，反之亦然。此即是Sora等人工智能产品模糊真假边界后，人们会产生普遍性焦虑的深层原因之所在，即当矛盾律不再可靠之时，我们该以何种标准判断世间对错。

真相的背后尚且有真理作支撑，其标准是恒定的，如2+2=4在什么时候都不会变，但依托真理形成的善与美的标准却是可变的，这就导致一旦真相隐遁，以Sora为代表的短视频对于后者的冲击将更为剧烈，甚至可以完全改变特定时代人们的善与美的标准。

在亚里士多德看来，美德是一种适中，好的技艺可使人置于良好的状态，但过度和不足都会使人走上恶的道路，比如爱可以使人变得柔和，可以更好地面对生活，但过度的爱会走向占有和嫉妒，而不足的爱会走向冷漠，这些坏的性质取决于人们对中道（中庸）的认知又会影响人的行为。人们判断自己的行为是否失格尚且不易，机器所生成的结果更不受人控制。短视频无数次虚假建构某种极端的行为标准，久而久之人们便会认为那是善的，而这种善的标准可能与我们现行的社会秩序是矛盾的，比如中国古代的二十四孝被当做善的典范，而在今天看来这些案例几乎都是不道德的。道德真理/道德真相是可以塑造的，诚如英国思想家赫克托•麦克唐纳所言：强大的沟通者可以鼓励整个群体接受新的道德真理。当下，我们正处在善恶标准的变革期，如果真相以激进的方式消失了，善恶的标准将面临大洗牌的局面。

同理，美的标准也是会变的，假如Sora产出的短视频持续推出一种奇怪的美丑标准，人们也会在润物细无声的背景下改变对于美的认知，如人类对于整容、钻石、奢侈品等的非理性迷恋多是商家多年广告营销的结果，这样隐蔽的推广形式以消费主义的姿态更容易确立一种畸形的审美标准。审美本应是多元化的个体体验，但如今的大模型凭借其强大的自主学习能力，基于对个人数据的充分掌握，可以实现围绕个体偏好的精准定向投喂，从而以信息茧房的模式塑造一个时代的美丑标准。这些标准没有人知道对错，甚至也无人意识到它们的存在，使得它们带来的危害更难被消除，想想历史上环肥燕瘦的审美标准的变迁，裹小脚的陋习又戕害了多少女人的一生。从这个意义上说，拯救真相就是拯救我们的秩序及认知。

分布式真相拯救机制

哲学家波普尔在鉴别理论的真假时曾提出过一个概念——逼真度，两个理论相比较时逼真度高的理论就是好的理论，在拯救真相的征途上，我们可以有限地借用逼真度这个概念。（逼真度）之所以是有限的，是因为未来即便技术专家去鉴别由Sora升级版制作的这些视频，专家的能力也是有限的，也不能保证完全可以鉴别，只能说他们比普通人的鉴别更靠谱一些，也就是逼真度更高一些而已。因此，为了从根本上解决真相的隐遁现象，还是需要从制度上去捍卫真相，为此，不妨专门设立第三方机构，由它们推出针对Sora短视频的辅助鉴别模型，从而形成双方力量的均衡，这样从理论上说就可以最大限度地拯救真相。

但是引入辅助鉴别模型又会带来两个潜在问题：其一，技术的军备竞赛。短视频生产方会不断加快技术迭代的速度，从而超越鉴别模型现有的技术水平，从而引发鉴别模型的升级，如此循环往复，如果视频生产方的迭代速度超过鉴别模型的迭代速度，在这个间隔期仍然会存在真相隐遁现象，从过往的历史经验上看，资本总会跑向生产方以超越监管方，利用时间差赚取超额利润，这就是技术发展自身无法克服的逐利逻辑，对于大力出奇迹的Sora模型来说更是如此（资本骨子里就青睐于大数据、算法与算力这些具有盈利能力的资源）。其二，监督的第三方会带来无穷倒退的可能性。换言之，谁能保证作为第三方的鉴别模型拥有者不会谋取私利，为了防止这种情况的发生，我们又会被迫引入第四方来监督第三方，如果没有一种暂停机制，这个循环会导致无穷倒退，现实生活中不乏这样的案例。

为了彻底拯救被技术吞噬的真相，可以采用分布式真相拯救机制，每一方都负起拯救真相的责任，从而全方位捍卫真相，即短视频生产方推出产品时必须标注真假（可以通过立法强制性要求）；作为监督方的第三方必须履行自身的职责，为公众守护真相；整个社会作为消费者必须承担起监督与批评的责任（这是全方位、全天候的监督，体现集体智慧），由此，一个分布式的真相拯救链条得以确立。

借用麦克唐纳的名言，这是一个后真相的时代，但是，只要我们未雨绸缪，每一次技术变革所带来的冲击终将被人类所化解，所不同的只是成本与代价的大小而已。

【博主跋】这篇小文章是前些日子应科学报胡老师之邀而写，现发在《中国科学报》2024-3-1的A4版，合作愉快，是为记！

说明：文中图片来自网络，没有任何商业目的，仅供欣赏，特此致谢。（文中两张图片就是短视频截图，非常逼真）

2024-3-1于南方临屏涂鸦