法学视角下的人工智能与人工意识系统

段玉聪（Yucong Duan）

DIKWP-AC人工意识实验室

AGI-AIGC-GPT评测DIKWP（全球）实验室

DIKWP research group, 海南大学

引言

从法学角度来看，人工智能（AI）和人工意识系统（AC）的发展不仅是技术的革新，也是对现有法律体系的重大挑战。这些技术的进步引发了一系列法律和伦理问题，需要法学界深入探讨。

人工智能的法律考量

1. 责任归属：AI决策过程的不透明性使责任归属变得复杂。例如，在AI驱动的医疗诊断错误中，责任应该归咎于开发者、使用者还是AI本身？

2. 知识产权：AI创造的作品（如艺术作品、文学作品）的知识产权归属问题。AI是否可以被视为作者或发明人？

3. 隐私和数据保护：AI的大数据分析能力对个人隐私和数据保护法规提出挑战，尤其是在欧盟的GDPR下。

人工意识系统的法律议题

1. 法律地位：如果AC达到一定的自我意识水平，是否应赋予它们法律地位？这将牵涉到合同能力、民事责任等问题。

2. 伦理和权利：AC系统可能引发伦理上的权利问题，例如，AC是否享有类似人类的权利和保护？

3. 道德责任和刑事责任：AC的行为若造成损害，其道德责任和刑事责任的判定将极具挑战性。

AI与AC的法律交汇点

• 法律人格的探讨：探讨AI和AC是否应被赋予法律人格，这涉及到责任、权利和义务的分配。

• 技术规范与合规性：如何在保障创新的同时确保AI和AC的行为遵守法律规范。

• 国际法律合作：AI和AC的跨国界性质要求国际法律体系的协同和合作。

法律框架的挑战与发展

• 新法规的制定：现有法律体系未必能充分应对AI和AC带来的挑战，可能需要制定新的法规。

• 法律适用性：确定哪些现有法律适用于AI和AC，以及如何解释和执行。

• 伦理指导原则：为AI和AC的开发和应用制定伦理指导原则，确保技术的道德和法律合规。

法律实践的变革

• AI在法律实践中的应用：AI技术可以用于法律文书的自动化分析、案例研究和预测判决结果，改变法律实践的方式。

• 法律教育的适应：法学教育需要纳入AI和AC相关的法律、伦理和技术课程，培养未来律师面对新兴技术的能力。

结语

AI和AC的发展对法学提出了重大挑战，需要法律专家、技术开发者和政策制定者共同努力，以确保技术的合理应用和法律的有效适应。同时，这也为法学研究和实践带来了新的发展机遇。

段玉聪，海南大学计算机科学与技术学院教授，博士生导师， 第一批入选海南省南海名家计划、海南省领军人才，2006年毕业于中国科学院软件研究所，先后在清华大学、首都医科大学、韩国浦项工科大学、法国国家科学院、捷克布拉格查理大学、意大利米兰比克卡大学、美国密苏里州立大学等工作与访学。现任海南大学计算机科学与技术学院学术委员会委员、海南大学数据、信息、知识、智慧、意图DIKWP创新团队负责人、兼北京信用学会高级顾问、重庆警察学院特聘研究员、海南省委双百人才团队负责人、海南省发明协会副会长、海南省知识产权协会副会长、海南省低碳经济发展促进会副会长、海南省农产品加工企业协会副会长、海南省人工智能学会高级顾问、美国中密西根大学客座研究员及意大利摩德纳大学的博士指导委员会委员等职务。自2012年作为D类人才引进海南大学以来，累计发表论文260余篇，SCI收录120余次，ESI高被引11篇,引用统计超过4300次。面向多行业、多领域设计了241件（含15件PCT发明专利）系列化中国国家及国际发明专利，已获授权第1发明人中国国家发明专利及国际发明专利共85件。2020年获吴文俊人工智能技术发明三等奖；2021年作为程序委员会主席独立发起首届国际数据、信息、知识与智慧大会-IEEE DIKW 2021；2022年担任IEEE DIKW 2022大会指导委员会主席；2023年担任IEEE DIKW 2023大会主席；2022年获评海南省最美科技工作者（并被推全国）；2022年与2023年连续入选美国斯坦福大学发布的全球前2%顶尖科学家的“终身科学影响力排行榜”榜单。参与研制IEEE金融知识图谱国际标准2项、行业知识图谱标准4项。2023年发起并共同举办首届世界人工意识大会（Artificial Consciousness 2023, AC2023)。

 数据（Data）可视为我们认知中相同语义的具体表现形式。通常，数据代表着具体的事实或观察结果的存在语义确认，并通过与认知主体已有认知对象的存在性包含的某些相同语义对应而确认为相同的对象或概念。在处理数据时，我们常常寻求并提取标定该数据的特定相同语义，进而依据对应的相同语义将它们统一视为一个相同概念。例如，当我们看到一群羊时，虽然每只羊可能在体型、颜色、性别等方面略有不同，但我们会将它们归入“羊”的概念，因为它们共享了我们对“羊”这个概念的语义理解。相同语义可以是具体的如识别手臂时可以根据一个硅胶手臂与人的手臂的手指数量的相同、颜色的相同、手臂外形的相同等相同语义进行确认硅胶手臂为手臂，也可以通过硅胶手臂不具有真实手臂的可以旋转对应的由“可以旋转”定义的相同语义，而判定其不是手臂。

 信息（Information）则对应认知中不同语义的表达。通常情况下，信息指的是通过特定意图将认知DIKWP对象与认知主体已经认知的数据、信息、知识、智慧或意图联系起来，产生新的语义关联。在处理信息时，我们会根据输入的数据、信息、知识、智慧或意图，找出它们被认知的DIKWP对象的不同之处，对应不同的语义，并进行信息分类。例如，在停车场中，尽管所有的汽车都可以归入“汽车”这一概念，但每辆车的停车位置、停车时间、磨损程度、所有者、功能、缴费记录和经历都代表着信息中不同的语义。信息对应的不同语义经常存在于认知主体的认知中，常常未被显式表达出来，例如抑郁症患者可能用自己情绪“低落”来表达自己当前的情绪相对自己以往的情绪的下降，但这个“低落”对应的信息因为其对比状态不被听众了解而不能被听众客观感受到，从而成为该患者自己主观的认知信息。

 知识（Knowledge）对应于认知中的完整语义。知识是通过观察和学习获得的对世界的理解和解释。在处理知识时，我们通过观察和学习抽象出至少一个完整语义对应的概念或模式。例如，通过观察我们得知所有的天鹅都是白色，这是我们通过收集大量信息后对“天鹅都是白色”这一概念的完整认知。

 智慧（Wisdom）对应伦理、社会道德、人性等方面的信息，是一种来自文化、人类社会群体的相对于当前时代固定的极端价值观或者个体的认知价值观。在处理智慧时，我们会整合这些数据、信息、知识、智慧，并运用它们来指导决策。例如，在面临决策问题时，我们会综合考虑伦理、道德、可行性等各个方面的因素，而不仅仅是技术或效率。

 意图（Purpose）可以看作是一个二元组（输入，输出），其中输入和输出都是数据、信息、知识、智慧或意图的内容。意图代表了我们对某一现象或问题的理解（输入），以及我们希望通过处理和解决该现象或问题来实现的目标（输出）。在处理意图时，人工智能系统会根据其预设的目标（输出），处理输入的内容，通过学习和适应，使输出逐渐接近预设的目标。