研究分析了人工智能生成的深度造假的特点

诸平 

据西班牙马德里卡洛斯三世大学(University Carlos III Madrid简称UC3M)2024年5月23日提供的消息，该校的研究人员研究分析了人工智能生成的深度造假的特点（Research analyses the characteristics of AI-generated deepfakes）。

通过社交媒体传播的人工智能(artificial intelligence简称AI)制作的大多数深度造假(带有虚假超现实再现的视频)都以政治代表（political representatives）和艺术家（artists）为主角，通常与当前的新闻周期有关。这是马德里卡洛斯三世大学(UC3M)研究的结论之一，该研究分析了西班牙因使用人工智能工具用于非法目的而产生的病毒式错误信息的形式和内容特征。这一进步代表着我们朝着理解和减轻恶作剧在我们社会中产生的威胁迈出了一步。相关研究结果于2024年2月13日已经在《瞭望台》（Observatorio）杂志网站发表——Miriam Garriga, Raquel Ruiz-Incertis, Raúl Magallón-Rosa. Artificial intelligence, disinformation and media literacy proposals around deepfakes. Observatorio (OBS*), 2024, 18 (5): 175-194. DOI: 10.15847/obsOBS1-8520242445. Published: 13 February 2024. https://obs.obercom.pt/index.php/obs/article/view/2445

在这项研究中，研究小组通过西班牙事实核查组织(如EFE Verifica、Maldita、Newtral和Verifica RTVE)的验证研究了这些虚假内容。“我们的目标是找出这些病毒式深度伪造的一系列共同模式和特征，为识别它们提供一些线索，并为媒体素养（media literacy）提出一些建议，以便公民能够处理错误信息，”上述论文作者之一、正在UC3M传播系（UC3M’s Communication Department）攻读欧洲传播学博士学位的拉克尔·鲁伊斯·因瑟蒂斯(Raquel Ruiz Incertis)解释说。

研究人员已经开发出一种深度伪造的类型（typology of deepfakes），这使得识别和消除它们变得更容易。根据这项研究的结果，一些政治领导人{如特朗普(Trump)或马克龙（Macron）}是涉及吸毒或道德上应受谴责的活动的内容的主要主角。此外，还出现了相当一部分伤害女性贞操的色情深度造假，特别是曝光著名歌手和女演员。研究者说，这些帖子通常是由非官方账户分享的，并通过即时通讯服务（instant messaging services）迅速传播。

深度造假的泛滥，或频繁使用人工智能工具操纵的图像、视频或音频，是一个高度热门的问题。“这种预制的恶作剧在敏感情况下尤其有害，比如在选举前或在冲突时期，就像我们目前在乌克兰（Ukraine）或加沙（Gaza）所经历的那样。这就是我们所说的‘混合战争’（’hybrid wars’）:战争不仅在有形界（physical realm）进行，而且在数字界（digital realm）进行，谎言比以往任何时候都更加重要，”拉克尔·鲁伊斯·因瑟蒂斯说。

这项研究的应用是多种多样的，从国家安全到竞选活动的完整性。研究结果表明，在社交媒体平台上主动使用人工智能可能会彻底改变我们在数字时代保持信息真实性的方式。

该研究强调了提高媒体素养的必要性，并提出了提高国民辨别真实内容和虚假内容的能力的教育策略。“通过谷歌(Google)或必应(Bing)等搜索引擎的反向图像搜索（reverse image searches），可以识别出其中许多深度伪造。在传播来源可疑的内容之前，公众可以在几次点击中检查内容的准确性。关键是教他们如何去做。”拉克尔·鲁伊斯·因瑟蒂斯说。上述论文还提供了其他检测深度造假的技巧，比如注意元素边缘的清晰度和图像背景的清晰度:如果视频中的动作减慢，或者是否有任何面部变化、身体比例失调或奇怪的光影变化，一切都表明它可能是人工智能生成的内容。

此外，该研究的作者还认为有必要立法要求平台、应用程序和程序(如Midjourney或Dall-E) 建立一个“水印”来识别它们，并允许用户一眼就知道图像或视频是完全由人工智能修改或创建的。说明：Midjourney 是一个人工智能绘图平台，可以从自然语言描述中生成图像。Dall-E，是美国图像生成系统。由美国人工智能非营利组织OpenAI于2021年1月份推出。

UC3M的研究团队采用多学科方法，将数据科学和定性分析相结合，研究事实核查组织如何在其运营中应用人工智能。主要方法是从上述事实核查者的网站上对大约30份出版物进行内容分析，其中这些人工智能操纵或制造的内容被证明是虚假的。

上述介绍，仅供参考。欲了解更多信息，敬请注意浏览原文或者相关报道。

Papers and peer reviews with evidence of ChatGPT writing

Abstract

The role of artificial intelligence and its place in the new disinformation strategies is perhaps one of the most difficult issues to focus on nowadays, since we are at the beginning of a process of definition and ways of exploration. In this paper, first of all, we analyze the different approaches that are being applied to the regulation of artificial intelligence and that may affect the different disinformation strategies that are being identified. Secondly, we study how artificial intelligence is being used to identify disinformation content. In this regard, from the point of view of verification processes, one of the main challenges is when identifying deepfakes (images and video, mainly) linked to news cycles. From this perspective, a typology of deepfakes is proposed and its main characteristics will be described according to the verifications carried out by the Spanish fact-checking organizations. Finally, a set of recommendations will be presented to work from a media literacy point of view with the identification of deepfakes.