本文刊载于《智能科学与技术学报》2023年第3期专题“扩散模型和人工智能内容生成”

马歅嫄

上海大学法学院，上海 720002

DOI：10.11959/j.issn.2096-6652.202331

摘 要 AI绘画作为互联网新技术的代表，拥有与早期互联网发展一致的自由环境。但公共资源的自由共享并不是永恒的，旧体制与新事物的冲突必然会带来现行法律适用上的诸多问题。我国现有法规对于网络服务提供者的责任承担规定相比域外更加完善，再行强制加重服务提供者责任或服务使用者责任都会导致利益失衡，并无借鉴的必要性。在现有的法律框架下，利用专门立法和行业自治对主导者的权力限制进行补强就已经足够了，AI绘画的未来需要始终重视平衡的价值。

关键词 AI绘画；自由与控制；网络侵权；利益平衡

0 引言

互联网技术的不断发展，促进了新类型网络服务者的诞生。AI绘画作为人工智能生成内容（AIGC）行业兴起的代表，呈现出了与早期互联网发展一致的自由环境。但正如早期互联网的发展情况，AI绘画的自由模式并不会长久地维持下去，控制趋势会不断加强，相对减少公共资源的流通。现有体系下，虽然与知识产权相关的权属争议通过AI绘画服务提供者与服务者签订用户协议得到了部分解决，但依然存在着繁多的网络侵权问题。实务中存在的生成内容合法性问题、数据库侵权问题、著作权侵权问题和人格权侵权问题都亟待解决。AI绘画实务中出现的法律适用问题，是新型网络服务与既有法律规则冲突的必然产物，但这并不意味着现有的网络侵权责任承担迫切需要立法改变，盲目借鉴域外现有的法律规制只会阻碍AI绘画在我国的发展。在既有体系之下，如何调整互联网自由和控制之间的平衡，更值得我们重视。

1 AI绘画发展环境的自由化

AI绘画看似是一个全新的科技领域，实际在构架上却呈现出早期互联网的本质——自由^[1]。这种自由表现在3个方面：算法模型自由开放、服务生产关系自由和生成物权利归属自由。

目前国内的AI绘画算法大多基于扩散（diffusion）模型，这是一种利用高斯噪声的添加和还原，并让计算机进行“绘画”的算法。由于稳定扩散（stable diffusion）模型是开源算法，并且可以在大部分普通消费级GPU上运行，因此得到了广泛的应用。基于其建立的开源模型框架，全球的程序员们可以给稳定扩散模型添加更多的学习素材，改良和稳定其性能。可以说，AI绘画技术的发展是建立在自由和共享之上的。

除了AI绘画技术算法的共享，AI绘画服务提供者提供的服务也呈现出自由多元的状态。首先是竞争的开放。技术开源降低了创造的成本，减少了创新的障碍，传播成本和生产成本也随之减少。服务提供者主体不再限于传统互联网的企业主体，拥有一定计算机技术能力的个人也可以建立提供AI绘画服务的平台，成为旧产业模式中主导企业的竞争者。其次是AI绘画服务者提供服务的方式呈现多样化。使用方式上，有像disco diffusion一样只能在电脑程序中运行的AI绘画服务软件；也有便捷化的AI绘画网页平台，如文心一格；以及意间AI这样手机端和PC端皆可使用的小程序。服务形式上，有免费使用，无须注册的简单网页型AI绘画服务平台；有免费使用，仅需要注册就可以使用的PC端平台，如MIMIC；还有像盗梦师一样商业化的注册付费平台。开放多样的服务，促进了服务提供者对原始模型的创新，也能够促进使用者利用服务创造丰富多彩的生成物，繁荣艺术和文化市场。

AI绘画生成物的法律定位一直是法律界关注的热点，在没有成文法的明确规定时，AI绘画实务直接通过协议的方式进行了归属。总的来说，肯定了AI绘画生成物成为受到著作权保护的作品的可能性。独创性可以拆分为“独”和“创”两部分，“独”意指独立创作，“创”指区别于其他作品的创造性。对于AI绘画生成物的独创性判断，应当分为两种情形进行讨论。

例如，2022年8月获得科罗拉多州艺术博览会金奖的AI作品《太空歌剧院》，看似机器生成而非人类直接完成，但其实质却是开发团队花费80个小时，在不断修改出的900余幅画中选出，运用PS进行渲染修饰画面，最后创作出的画作。这类生成物依靠的是前期算法开发者的脑力劳动，生成过程体现了使用者思想的表达，体现了独创性，因此可以视为受著作权法保护的作品。而其他的作品仅仅是由AI绘画使用者进行简单操作AI输入指令生成的，并未运用脑力劳动为原物增添新的价值，该生成物应当认为属于公有领域的惯常表达，不应被认定为受著作权法保护的作品。

在可以被认定的作品的生成物中，AI绘画服务提供者通过用户协议以合意的方式与使用者确认了著作权的归属，分为由AI本身享有著作权、AI绘画服务提供者享有著作权和AI绘画服务使用者享有著作权3类。法律政策还未对AI绘画生成物的权属争议问题进行统一的规制，但这并不意味着AI绘画行业不受到任何的控制，也并不是说绝对无控制的绝对自由就适合AI绘画的发展。

本科勒将任何特定的通信系统分为3层，每一层都可以是受控的，也都可以是自由的。绘画AI的学习生成过程是自由的，但学习的数据库素材以及生成物都受到财产权利的正当保护。使用者利用绘画AI生成可能会侵害他人人身或财产权利的生成物时，也应当受到既有法律规则的处罚。AI绘画平台搭建了一个自由创新的空间，正是具有这些社会规范和架构的网络，才能够让创作得以繁荣。

但正如早期互联网的发展情况，AI绘画的自由模式并不会长久地维持下去，控制趋势会不断加强，相对减少公共资源的流通。这种控制通常来自两方面：一是代码层AI绘画服务提供者的集中化趋势；二是内容层法律法规对私权利保护的增强^[2]。目前集中化的趋势并不明显，但现有的法律法规在适用的过程中已经出现的一些问题，值得我们重视。

2 AI绘画面临的控制

2.1 现有的法律问题

虽然知识产权相关的权属争议现在通过AI绘画服务提供者与服务者签订用户协议得到了部分解决，但是依旧存在着繁多的网络侵权问题。

2.1.1 生成内容合法性问题

首先，AI绘画服务提供者本身主体合法性和AI用途的合法性就值得关注。AI绘画制作的成本和门槛较低，且整体的发展处于相对自由的阶段，从而大大降低了网络犯罪的成本，可能会成为不法分子实施网络犯罪的新工具。以AI绘画的深度合成技术制作虚假图像，在互联网平台传播虚假信息，将大大增加网络内容监管的复杂性，也可能带来社会信任危机和安全风险。

其次，AI绘画内容也可能存在不可控的违法性。生成式AI的生成内容是由算法自动生成的，具有随机性，生成的内容也因此具有不可控性。日本Pocketpair游戏工作室于2022年11月4日推出了一款以AI绘画为主要玩法的游戏，游戏中玩家需要根据主体让AI生成图片，并观察图片。根据游戏玩家的反馈，即便玩家没有提出指令，该游戏AI也会自动绘制大量涉及违法内容且不宜展出的图片，而这个问题算法开发商自己也无法解决。AI绘画生成内容的合法性问题，需要立法和监管部门的高度关注。

2.1.2 数据库侵权问题

绘画AI深度学习所必需的数据库由AI绘画服务提供者采集和使用者上传两部分构成，服务提供者对学习素材提供的是一种信息储存空间服务。使用爬虫脚本抓取相关已经发表、未发表的作品或者直接盗取绘画作品网站的全部作品作为素材库数据的行为，即构成侵权。我国处理网络服务提供者的网络侵权问题的现有规制路径是适用《民法典》第1 195条承担间接侵权责任，如果素材库中采集和上传的内容侵犯了第三人的著作权，依据现有的“通知—删除”救济路径，被侵权人发出通知应当提供构成侵权的初步证据。但AI学习的数据库作为绘画AI运行的基础要件，隐藏在算法映射模型之中，被侵权人并不具有相应的技术能力进行取证，很难证明自身的权利主张。对于这一类型的侵权问题，“通知—删除”规则几乎无法启动，从长远来看，占据强势地位的AI绘画服务提供者对资源的攫取无法被限制，将造成权利人与服务提供者利益失衡，既打击了著作权人进行创作的积极性，也不利于AI绘画服务的发展。

2.1.3 著作权侵权问题

AI绘画服务提供者除了提供内容存储服务，大多数AI绘画服务平台也会开辟共享社区板块供使用者分享交流他们的生成物，一般的艺术交流网站也成为AI绘画生成物的传播平台。绘画AI的主要工作方式是分析素材、模仿素材并生成符合指令的新图片。因此，利用AI对单张图片进行二次创作，可能在配色和构图上与原画作高度相似，符合著作权侵权“接触+实质性相似”的认定标准。将这样的生成物发布在绘画网站上，是对原作者著作权的明显侵权。并且基于网络传播分散和重复的特点^[3]，同一个作品可以在不同平台被不同用户反复上传，扩大侵权损失。

除了对自然人著作权侵权，AI绘画更可能发生的是对一些知名形象的著作权侵犯。由于知名形象在网络上拥有活跃的流行度，他们的特色更容易被数据库采集，就像知名画家独特的画风一样成为绘画AI系统学习的对象。

网络服务提供者依据《民法典》第1 197条确立的“红旗规则”对平台内的绘画承担着法定的知识产权注意义务，不能对非常明显的侵权内容或链接不闻不问^[4]。因此在知道或应当知道网络服务使用者存在侵权事由而未采取必要措施的情况下，AI绘画服务提供者将会与网络用户共同承担连带的著作权侵权责任。

2.1.4 人格权侵权问题

AI绘画目前主要有两种制作形式：一种是“文生图”，利用提示词进行创作；另一种是“图生图”，对原图进行再创作。美图秀秀和意间AI等目前热门的AI绘画服务提供平台都是将“图生图”作为主要的服务功能。当用户输入图片，AI会对输入的图片进行内容理解，然后AI基于图像内容理解结果自动生成绘画作品。AI绘画产品的商业化引起了使用风潮，甚至有的AI绘画网站出现了8万人排队等图的情况。但许多使用者对于自己上传含有自身肖像的图片的法律效果并不明晰，私人照片中包括了诸如姓名、名誉、肖像、隐私在内的人格权。素材库收集了这些数据后，第三人运用算法生成了侵权人格权的生成物，如果仅适用《民法典》第1 195条进行事后救济，会涉及更加复杂的人格权保护与公众知情权、言论自由等问题^[5]。

2018年，在纽约佳士得高价拍售的AI肖像作品《埃德蒙·德·贝拉米》，便是将艺术家给系统提供的15 000幅绘制于14世纪至20世纪的肖像艺术作品作为机器学习的训练数据集，通过算法不断地循环训练生成的人物肖像。该作品所生成的肖像并不属于真实存在的人，蕴含了AI绘画未来可能出现的法律问题——与深度伪造技术相结合，将个人的声音、面部表情及身体动作拼接合成虚假内容，对社会公共利益造成侵害。

2.2 未来可能出现的控制趋势

2.2.1 私权利保护要求法律有所作为

随着信息技术的发展，网络服务提供者对可能存在侵权行为进行事先审查和控制的能力大大增强，增加网络服务提供者事先审查义务，成为近年来域外学者们的一大呼声。AI绘画作为约定的作品，现有的域外网络侵权问题都是通过以“避风港原则”为基础的网络著作权侵权规则来解决的。但如今通行的“避风港原则”形成于20世纪末21世纪初，其预设的适用环境是那个年代的技术状况和产业格局，以AI绘画服务平台为代表的新型网络服务提供者对其适用性提出了新的挑战。对私权利进行保护的需求最终会迫使法律政策做出趋向于控制的改变。在其起源地美国，版权局发布的《第512条报告》也认为“避风港原则”在当代实践中存在诸多问题，需要通过新的法律制度来调整结构性利益失衡的问题。欧盟《数字单一市场版权指令（CDSM）》已经率先打破了网络服务提供者不承担事先审查义务的原则，开始赋予其一定的事前“版权过滤义务”^[6]。

我国《民法典》关于网络服务提供者责任的规定，与传统“通知—删除”规则相比，增加了“转通知”和“反通知”的程序性要求，明确网络服务提供者及时采取和终止“必要措施”的条件，更新了权利人错误通知的赔偿责任，相比美国与欧盟的立法更加严格和完善。但面对日新月异的科技发展，未来必定会出现现有规则体系无法解决的新问题，基于对公民权利保护的宗旨，我国的立法也会有所作为。

2.2.2 旧行业主导者的集中化控制

在我国，字节跳动、快手、美图秀秀等在短视频和AI修图领域占据主导地位的网络服务提供者看到了AIGC技术在图像应用上的巨大价值，对AIGC加紧了布局。现有的互联网平台巨头将会投资AIGC产业，为使用者提供更强势的服务。

AI绘画的基础算法模型稳定扩散模型虽然已经开源，但是AI算法的进一步细化和程序的进一步更新，需要功能强劲的机器设备来推动。谷歌公司在扎入AI绘画技术创新后，开发出了名为“Muse”的全新绘画AI模型，在速度和效率上，也远高于稳定扩散模型。这意味着随着时间的推移，拥有更强大计算力和研究实力的互联网科技公司将会对行业的创新做出更多的贡献，并逐渐对行业的技术发展产生集中控制。而随着集中化控制的加深，真正的自由创新可能就会遭到歧视和筛选。比如：只有符合垄断者模型运算条件的设备才能够接入；只有适合垄断者利益的技术才可能在其基础模型上发展；只有与垄断者签订协议的平台才能够接入和运用模型代码。从物理层、代码层和内容层3个层面，旧体制的主导者通过架构而取得战略性的控制权。

如果算法作为公共资源可以使所有人收益，而封闭的空间可以使私人收益，那么根据哈丁提出的“公地悲剧”理论，我们应当预见到，AI绘画行业的发展会从自由趋向于控制，私利将取代公利。

3 自由与控制的平衡价值更重要

互联网天生就是一个混合体，自由和受控之间的对立是永远存在的，同时平衡的需求也是永远存在的，我们应当重视平衡的价值。如果控制的趋势无法避免，那么我们应当注重的是如何在现有法律规制之下，对利益进行适当的调整，引入对创新有益的控制，对于限制自由的控制保持谨慎的态度。

3.1 我国专门立法的适当控制

日前，针对AI绘画等深度合成技术的专门法律规制《互联网信息服务深度合成管理规定》（以下简称《规定》）业已生效。《规定》的合规义务相当细致全面，以立法的方式对AI绘画现有网络侵权问题进行了适当控制。

《规定》在“一般规定”的部分，首先列明了深度合成服务者应当承担生成内容合法性义务。任何服务提供者不得利用深度合成服务从事法律法规禁止的活动，也不得利用服务制作、复制、发布、传播法律法规禁止的信息。第3章“数据和技术管理规范”部分，对AI绘画服务提供者设置了数据和技术规范义务。要求算法训练数据包含个人信息的，服务提供者应当遵守个人信息保护的有关规定，如果算法是提供生物识别信息编辑功能的，应当依法告知被编辑的个人，并取得其单独同意。该部分对AI绘画存在的数据库侵权问题，在数据代码层就起到了控制作用。《规定》还设置了服务提供者的内容审核义务，要求采取技术或者人工方式对深度合成服务使用者的输入数据和合成结果进行审核。同时对于违法或不良信息，建立识别其信息的特征库用于记录，对解决AI绘画的著作权侵权问题也有一定的帮助。

2023年4月11日，国家互联网信息办公室发布《生成式人工智能服务管理办法（征求意见稿）》（以下简称《意见稿》），形成了关于生成式人工智能应用的全过程监管框架，相关内容值得分析参考。《意见稿》所规定的主要义务可以划分为监管机制相关义务、算法训练相关义务、内容管理相关义务以及用户相关义务。其中，为解决AI绘画等生成式人工智能的生成物信息内容合法性问题，《意见稿》增加了相关网络服务提供者开展服务生成内容的前置性要求，并设计了算法披露与用户举报机制。第4条对内容治理的基本原则做了具体规定，明确生成式人工智能的生成内容应当避免出现法律法规禁止或限制的行为和内容，利用生成式人工智能生成的内容应当真实准确，在一定程度上保证了网络服务提供者主体与生成内容的合法合规性。

《意见稿》的算法训练相关义务与内容管理相关义务部分，对算法训练和生成过程中可能出现的网络侵权问题也提出了规制办法。第7条对服务提供者算法训练数据合法性的要求，是对AI绘画数据库侵权问题的有力规制。对于和AI绘画著作权侵权相关的问题，《意见稿》并没有另行的补充规定，从法律规范层面来看，《意见稿》与《规定》的适用对象及范围存在较大一致性，对于网络著作权侵权的问题，依照《规定》的相关内容进行规制即可。

关于AI绘画人格权侵权的问题，《意见稿》中仅有侵犯个人信息的投诉处理机制和禁止歧视性内容生成义务的规定。但基于人格权侵权问题的复杂性，除了法规强制规定的合规义务，AI绘画服务提供者和技术支持者应当在算法中设置相应的敏感个人信息过滤系统，保护个人信息安全和公共利益。如果服务提供者对使用者上传的人格肖像在约定中拥有商业化利用的权利，应当向服务使用者阐明并征得同意，出现侵权问题，权利人可以再依据《民法典》或《个人信息保护法》中相应的人格权侵权请求权寻求救济。

3.2 域外规则的不可借鉴性

如前文所述，AI绘画现有的域外网络侵权问题大多是通过以“避风港原则”为基础的网络著作权侵权规则来解决的。但该体制应用于新兴科技带来的著作权问题时，存在明显弊端。为此，欧盟CDSM已经开始赋予网络服务提供者“版权过滤义务”，以此来保护私权利^[7]。新西兰、法国等国家则采用了“三振出局”机制加重使用者责任，减轻被侵权人的诉讼负担。但仅针对AI绘画的利益平衡来说，强制加重AI绘画服务提供者或使用者责任承担实无必要，加重义务只会限制AI绘画未来的自由发展，并不值得借鉴。

AI绘画领域的利益平衡正保持着紧张的平衡局面，著作权的归属暂时是提供者和使用者以约定的形式确定的。3种模式下，只有约定由AI绘画服务提供者享有生成物的所有权的情况，AI绘画服务提供者作为AI绘画算法的开发者、平台的提供者和生成物的所有权人，在与使用者及被侵权的第三人的法律关系中才占据主导优势。溯及欧盟CDSM的立法背景，“版权过滤义务”的出现主要依靠音乐产业的推动^[8]。如果出于对未来集中化的担忧而借鉴欧盟向AI绘画网络服务提供者施加“版权过滤”事前审查义务，可能会出现以下3种不良趋向。

一是大型互联网平台和版权公司更有可能集中控制代码层^[9]。引入版权过滤机制需要承担高昂的技术开发和运营成本，新领域中参与竞争的创业公司和中小企业难以负担运营成本，将会使原本在模型技术开发上就占据优势的大型互联网平台更趋于集中化。二是内容层更容易出现过度审查控制上传内容的趋向。平台出于对合规成本与风险的考量，将倾向于设置更为严格的内容识别和过滤算法^[10]。由此，大量非侵权内容可能被封锁，其对公共资源的共享具有限制和消极影响。三是损害消费者福利，侵蚀用户合理使用范围。随着技术的不断普及，平台的生成物中相比需要运用著作权法和民法规制的侵权作品，出于合理使用目的并属于公共领域的生成物或许才是主要部分。过度审查的自动过滤技术势必对用户合理使用利益造成损害^[11]，借鉴欧盟的“版权过滤义务”会导致合理使用制度在算法下逐渐丧失原本的价值。

如前文所述，绘画AI的生成物大多可以归于公共领域或者属于合理使用，并未从中得到一定的利益。如果采用“三振出局”的机制，即要求所有的使用者必须确保他们的使用是绝对安全的，并且对因此引发的一切侵权承担责任，有违公平原则^[12]。除此之外，“三振出局”将大部分监管责任归于有行政机构授权的网络服务提供者^[13]，赋予了特定的网络服务者或网络服务协会实施限制用户接入互联网的权力，促进加强集中化的控制趋势。最后从社会整体利益角度来说，“三振出局”机制也不利于AI绘画领域的持续发展。绘画作品的发展本身就是一个在原有基础上再创新再发展的过程，如果通过算法的方式机械地保护现有作品的利益，会使得后来者缺乏创新所需的基础材料，使得著作权人原本已经相当完备的保护机制更加扩张，阻碍创新进步的脚步^[14]。

3.3 民事法律更改的不必要性

无论是限制网络服务提供者的“版权过滤义务”，还是加重网络服务使用者责任的“三振出局”机制，最终都会导致不平衡的竞争优势倾斜，行业发展趋向于控制。对于AI绘画现有的民事网络侵权问题，或许比起借鉴他国立法，如何在我国现有的法律体制下，实现网络服务提供者、使用者和权利人之间的利益平衡更为重要。

民事制度的修改并不具有必要性。对于生成物内容的合法性问题，已生效的《规定》《个人信息保护法》与尚在征求意见阶段的《意见稿》对AI绘画服务提供者、使用者以及技术开发者的特定生物识别信息的合规义务进行了详细的规定。涉及人格权侵权的相关问题，也可以直接以《民法典》或者《个人信息保护法》的有关法律法规进行规制。

而在数据库侵权问题上，或许并不需要法律制度的干预，暂时通过行业自治就能够达到平衡。大型艺术平台Artstation在经过沸沸扬扬的平台画师集体抵制AI绘画事件后，为了调和矛盾，表明如果画师不希望自己的画被用作AI学习，那么可以在后台设置一个“No AI”标签，平台便会用技术手段禁止AI采集画师的作品作为素材。服务提供者引用屏蔽技术可以确保屏蔽素材库中受到著作权保护且未得到著作权人授权的部分，减少了因未授权而引发的争议和利益损害。基于公共利益的需要，如果该技术能够在行业中共享并适配到同一基准的模型之中，形成行业自律的统一标准，对于维护技术发展的健康自由也有所裨益。著作权侵权问题不仅是AI绘画独有的特殊问题，其反映的也是我国版权保护的共性问题。考虑到网络用户创作和传播作品的活动日益活跃，AI绘画在艺术领域正发挥着独特的作用，不应考虑介入过多的法律限制。现阶段，充分发挥《民法典》有关网络侵权规制规则的作用，明确侵权行为和合理使用行为的界限，细化合理使用规则，对于实现利益平衡具有重要作用^[15]。

4 结束语

AI绘画的发展需要重视平衡的价值，是自由与控制之间的平衡，也是法律无为与有为之间的平衡。当下的发展仍然处于自由多元的状态，实践中算法模型技术的公共资源化促进了科技水平的发展创新；AI绘画在生产过程中，服务关系和使用关系的多元化为商业化模式提供了更加多样的选择；著作权利归属配置约定优先的模式会在未来成为行业发展的动力。多元的权利配置结构确实会带来许多悬而未决的问题，但是这也并不急于运用新的立法对整个行业的生态体系进行统一的规制。

随着技术的发展进步，未来控制的趋势势必会不断加强，科技发展总是伴随着旧制度与新事物之间的矛盾发展前进。究竟怎样的冲突会影响行业的前进和艺术的进步？又有怎样的矛盾需要法律的介入？法律政策对行业施加的干预应当维持在怎样的效果才能够保持自由和控制的平衡？还有许多问题需要通过未来的实践来找到答案。

引用本文

马歅嫄.法理视域下AI绘画的未来：自由与控制的平衡[J].智能科学与技术学报,2023,05(03):424-430.MA Yinyuan.Future of AI painting from a legal perspective: the balance between freedom and control[J].Chinese Journal of Intelligent Science and Technology,2023,05(03):424-430.

作者简介

      马歅嫄（1999- ），女，上海大学法学院硕士生，主要研究方向为网络法和法学理论。 

（点击篇末『阅读原文』阅读及下载本文）

· 关于《智能科学与技术学报》·

《智能科学与技术学报》（季刊，www.cjist.com.cn）是由中华人民共和国工业和信息化部主管，人民邮电出版社主办，中国自动化学会学术指导，北京信通传媒有限责任公司出版的高端专业期刊，面向国内外公开发行。

《智能科学与技术学报》被中国科技核心、CSCD核心库、Scopus、EBSCO、DOAJ 数据库，乌利希国际期刊指南收录。《智能科学与技术学报》将努力发展成国内外智能科学与技术领域顶级的学术交流平台，为业界提供一批内容新、质量优、信息含量大、应用价值高的优秀文章，促进我国智能科学与技术的快速发展贡献力量。