AI对科学和社会的影响

任何技术本身都存在正面和负面影响，就如过去人类掌握了火，解决了许多问题，也带来了更多风险，人类掌握了核能，控制了更大规模的天然能量，带来的潜在危害大家更是清楚。人类所以是人类，是靠人类的智能，掌握了火和各种科学技术，其基本原因也在于具有智能。今天人类逐渐掌握人工智能这个更具有潜能的工具，开始了颠覆自身的过程。这个问题给人类带来的最大困惑和担心应该是，超越了人类智能的人工智能，会不会取代或淘汰人类自身，因为从基本逻辑上已经具有了这种的潜力。这个问题的一个简单的疑问是，人工智能对人类的影响会如何？

上个月，OpenAI的Sora文本到视频AI工具的发布引起了研究人员的恐惧和兴奋，他们担心该技术被滥用。这家总部位于加州的公司展示了 Sora 从几个简短的文本提示中创建逼真视频的能力，例如一个女人走在东京霓虹灯闪烁的街道上，一只狗在两个窗台之间跳跃的片段。

英国莱斯特德蒙福特大学（De Montfort University）的数字文化专家特雷西·哈伍德（Tracy Harwood）表示，她对文本到视频人工智能（AI）的发展速度感到“震惊”。一年前，人们嘲笑美国演员威尔·史密斯（Will Smith）吃意大利面的人工智能视频。现在，一些研究人员担心这项技术可能会在2024年颠覆全球政治。

OpenAI，还开发了 ChatGPT 和文本转图像技术 DALL·E于2月15日首次推出Sora，宣布将该技术“提供给红队成员，以评估关键区域的危害或风险”。“红队”是指对技术进行模拟攻击或利用的过程，以了解它如何应对现实世界中的恶意活动，例如创建错误信息和仇恨内容。

Sora 并不是文本到视频技术的第一个例子;其他包括由纽约市Runway制作并于去年发布的Gen-2，以及谷歌领导的Lumiere，于1月份宣布。哈伍德说，她对其他一些产品感到“不知所措”。“它们在呈现给你的东西上变得越来越普通，”她说，并补充说，这些程序需要非常具体的提示才能让他们制作出引人入胜的内容。

Harwood补充说，错误信息是这些文本到视频技术的主要挑战。“我们将很快达到一个地步，在这个地步中，我们被一连串看起来非常引人注目的信息所淹没。这真的很令人担忧。

对选举的恐惧

这给即将到来的选举带来了特别的问题，包括11月的美国总统大选和即将到来的英国大选。“将有大量的假视频和假音频流传，”英国雷丁大学研究生成式人工智能和电影制作的多米尼克·李斯说。2023 年 10 月，英国工党领袖基尔·斯塔默 （Keir Starmer） 的假音频被发布，美国总统乔·拜登 （Joe Biden） 鼓励民主党人不要投票的虚假音频于 1 月流传。

一种解决方案可能是要求文本到视频的 AI 使用水印，要么以视频上的可见标记的形式，将其标记为 AI，要么作为视频元数据中的人工签名，但 Lees 不确定这是否会成功。“目前水印是可以去除的，”他说，在视频的元数据中加入水印依赖于人们积极研究他们观看的视频是否真实。 “我认为我们不能诚实地要求世界各地的观众在他们正在观看的每个视频上都这样做，”李斯说。

该技术也有潜在的好处。Harwood建议，它可以用来以更易于理解的格式呈现困难的文本，例如学术论文。“它可以用来做的最重要的事情之一就是将发现传达给非专业观众，”她说。“它可以将非常复杂的概念可视化。

另一个潜在的用途可能是在医疗保健领域，文本到视频的人工智能能够代替人类医生与患者交谈。“有些人可能会觉得这令人不安，”英国的顾问科学传播者克莱尔·马龙（Claire Malone）说。“其他人可能会发现，如果他们想每天多次向医疗专业人员提问，这非常方便。

数据管理

Malone说，像Sora这样的文本到视频的人工智能工具可以帮助研究人员浏览庞大的数据集，例如瑞士日内瓦附近的欧洲粒子物理实验室CERN和其他大型科学项目产生的数据集。她补充说，生成式人工智能可以“筛选出代码并完成平凡的研究任务”，但也可以做“更复杂的工作，例如给它数据并要求它做出预测”。

创意产业从业人员也提出了担忧。美国演员汤姆·汉克斯（Tom Hanks）去年表示，人工智能可以使他在他死后“从现在开始直到王国降临”继续出现在电影中。“如果你是一个雄心勃勃的年轻演员，正在考虑他们的未来，你被告知'对不起，汤姆汉克斯总是要扮演主角'，你会计划未来吗？”李斯说。

文本到视频的人工智能将给社会带来广泛的问题。“我们将不得不学会以过去从未有过的方式评估我们看到的内容，”哈伍德说。“这些工具让每个人都有机会成为媒体内容创作者，”她说。“我们将处理其后果。这是材料消费方式的根本转变。