摘要：生成式人工智能AIGC是人类文明进步的一项重大革命技术，对提升国家竞争力有重要价值。AIGC仍是尚处于发展初期的新生事物。对AIGC的监管我们建议“包容引导生产端，教育管理消费端”，将重大探索的压力分散给全社会承担。

正文

2022年以来，伴随着ChatGPT,GPT4等大模型的推出，Midjourney，podcast、GitHub Copilot等绘图，语音编辑和编程工具的兴起，生成式人工智能（AIGC）在世界范围成为新的科技热潮。

 在人们畅想AIGC对人类未来带来的巨大改变的同时，一个现实的担忧也悄然升起。那就是AIGC会产生虚假信息，臆造信息，甚至有违道德伦理和法律（当地）的信息，人们担心随着AIGC的大量使用，会使得虚假信息大量充斥网络世界和现实世界，对人类社会产生不可预估的危害。

 由此国家互联网信息办公室4月11日发布《生成式人工智能服务管理办法（征求意见稿）》，对AIGC的管理提前介入，尽量减少可能的负面影响。对于处于探索期的AIGC，政府监管也同样具有积极的探索意义，为人类社会如何更好的与人工智能相处积累宝贵经验。因为是探索和征求意见，我们也从自己的研究角度，对如何管理AIGC提出若干思考和建议供参考。

1.以大模型为代表的生成式人工智能（AIGC）是比互联网，万维网、搜索引擎、社交网络更为重大革命创新技术（集成），本质上，互联网和万维网为人类的知识库的外化和显化奠定了基础，搜索引擎实现了人类知识库的索引化，帮助人类快速查找知识。而以大模型为代表的AIGC实现了人类知识库的智能化，第一次实现了基于人类知识库的智能系统，并接近或已经能完成图灵测试。

 2.生成式人工智能AIGC的崛起对人类文明进步有重大意义，相对与工业革命解放了手和腿，生成式人工智能将人类从重复性，低创造性的智力劳动中解放出来。让更多人可以从事高质量高层级的创新活动，因此AIGC发展好的国家，其科技、文化、经济的创新能力将出现马太效应。整个社会的科技文明程度会大幅提升。同时大模型为代表的AIGC对于经济、政治、军事的宏观辅助决策也将起到重要作用。对国家的核心竞争力将有重大影响。

 3.生成式人工智能AIGC出现虚假信息和臆造信息，本质上是其创新能力的一种表现（但不成熟和稳定）。2022年以来生成式人工智能的兴起，带给人类社会最大的惊喜就是其在文字、图像、声音、视频、编程等领域的创新能力。当人类的需求不是寻求创新的信息，而是要求严谨的与现实相符的内容时，受其训练的技术原理和使用的庞大知识库的影响。AIGC不成熟，不稳定的创新能力反而被批评的软肋。但实际上变化的是人类的需求，不变的是AIGC的创新能力。

 4. AIGC的突然爆发对人类是新课题，如何监管同样是新课题，都具有探索性，基于AIGC对社会提升和国家竞争的重大意义，我们认为在监管上，适宜对AIGC生产端采取包容引导的政策，对AIGC消费端采取教育管理的政策。AIGC生产端是指ChatGPT、文心一言、通义千问、Midjourney这样的智能系统，AIGC消费端是指使用AIGC智能系统形成的作品对外发布的个人或单位。

 5. 在AIGC领域，包容引导生成端，教育管理消费端的监管建议，其中的逻辑是：生成端虽然会产生虚假信息，但如果消费者不交互，不对外发布，虚假信息最多处于消费者在AIGC系统的个人账户中，而不会对社会产生影响。虚假信息，臆造信息对AIGC生成端是其不稳定创新能力的表现，可以给与生成端企业更多的空间进行改进、优化，让其减少包袱向前发展。但对于消费端要给与政策提醒和管理，要求他们在引用好发布AIGC创作的内容时文责自负，做好审核和验证的工作，如果造成负面影响和损失，应该由发布者承担责任，这样把压力分散到使用端和消费端，并与当前国家已经实施的网络管理办法相结合，充分利用国家已有的成熟监管模式，降低创新方向的探索试错成本。

 6. 虽然ChatGPT、文心一言、通义千问、Midjourney等大模型或AIGC表现出令人振奋的创新能力，但总体上来讲，它们仍然是尚处于发展初期的新生事物，这时候如果监管要求它们的生成的内容“应当真实准确，采取措施防止生成虚假信息”，不但在实现技术上难度大，同时很可能会阻碍它们创新能力的进一步发展，甚至导致一些创新者、探索者的项目夭折，但如果我们要求引用这些幼童说话内容的成年人（消费者）对外传播时，能够提前进行自我审核、自我验证、文责自负，这一点可以将新领域探索的压力分散到整个社会来承担，也和当前对网络和社会舆论的监管政策相吻合。

 作者：刘锋 中国科学院虚拟经济与数据科学研究中心研究组成员、中国指挥与控制学会城市大脑专委会副主任兼秘书长