世界人工意识大会：道德、法律与信用国际会议

段玉聪（Yucong Duan）

DIKWP-AC人工意识实验室

AGI-AIGC-GPT评测DIKWP（全球）实验室

DIKWP research group, 海南大学

分会议背景

AI与AC技术的快速发展正在塑造我们的世界，它们已经渗透到日常生活的方方面面，包括医疗保健、金融、交通、娱乐等。然而，这些技术的广泛应用也引发了一系列重要问题，其中包括：

1. 道德挑战： 随着AI与AC系统变得越来越智能，它们需要作出伦理决策，这涉及到如何权衡不同的道德价值观，如公平、隐私和公共安全。同时，机器可能受到攻击或被滥用，从而导致不道德的后果。

2. 法律问题： 这些新技术引发了一系列法律问题，包括知识产权、责任分配、隐私法规等。特别是在自动驾驶汽车、医疗诊断和智能合同等领域，法律体系需要适应新兴技术的挑战。

3. 信用和可信度： 对于AI与AC系统的信用和可信度至关重要。用户和企业需要相信这些系统是可靠的，它们不会因为偏见、错误或不当用途而导致不良后果。

4. 公众接受度： 要成功应用这些技术，公众需要理解它们，信任它们，并接受它们。如果社会没有对这些问题进行充分讨论和解决，就可能导致公众不信任这些技术，从而限制它们的潜在好处。

分会议目的

1. 探讨AI与AC技术的道德挑战

分会议将提供一个平台，让专家学者和从业者能够深入探讨AI与AC技术所面临的道德挑战。这些讨论将涵盖以下方面：

• 机器道德：如何确保AI与AC系统在做出决策时遵循伦理原则？是否可以为机器赋予道德判断能力？

• 算法偏见：如何解决算法中的偏见和不平等问题？如何确保算法的公平性和无偏性？

• 伦理决策：当技术需要在伦理困境中做出决策时，应该如何权衡不同的伦理原则？

• 自主决策：当技术可以做出自主决策时，如何确保这些决策符合人类的价值观？

2. 审视与AI与AC相关的法律问题

分会议将审视AI与AC技术引发的法律问题，探讨如何适应这些新兴技术的法律框架。具体议题包括：

• 知识产权：如何保护AI与AC技术的知识产权？如何处理由AI生成的创造性内容的版权问题？

• 数据隐私：如何确保个人数据在AI与AC系统中得到妥善处理和保护？如何应对数据泄露和滥用？

• 责任分配：当技术出现故障或导致不良后果时，如何确定责任？是技术提供商、开发者还是用户？

• 法规适应性：如何确保法律体系能够及时适应技术的变化，以维护社会的法律正义？

3. 构建与AI与AC相关的信用体系

信用和可信度对于AI与AC技术的成功应用至关重要。分会议将讨论以下方面：

• 信用评估：如何评估AI与AC系统的信用和可靠性？是否需要第三方评估机构？

• 风险管理：如何管理与这些技术相关的风险，以降低不良后果的发生概率？

• 信用报告：是否需要建立AI与AC系统的信用报告系统，以便用户了解其性能和历史表现？

• 可追溯性：如何确保技术的决策过程是透明和可追溯的，以满足公众的信任需求？

4. 促进国际合作与标准制定

分会议将鼓励国际间的合作与对话，以共同制定相关的道德规范和法律标准。这有助于解决跨国技术应用中的法律和道德问题，确保全球范围内的技术应用是公平、可靠和合法的。

分会议意义

1. 推动技术与道德的和谐发展

通过深入研究AI与AC技术的道德挑战，分会议将促进技术发展与社会道德规范的和谐共生。这有助于确保技术的发展不偏离人类的道德和伦理原则，增加了社会对技术的接受度。同时，这也有助于避免不道德或有害的技术应用。

2. 构建适应AI与AC时代的法律框架

分会议将帮助理解和塑造适应AI与AC技术时代的法律框架，确保技术的合法运用，同时保护个人和社会的权益。这对于解决技术发展中出现的法律漏洞和挑战至关重要，有助于维护法治和社会公正。

3. 发展健全的AI与AC信用体系

探讨如何建立和发展健全的AI与AC信用体系，将有助于提高技术的可靠性和透明度，增强社会对这些技术的信任。这对于促进技术的广泛应用和商业化具有重要作用，有助于吸引更多的投资和创新。

4. 促进国际间的对话与合作

分会议将成为国际间就AI与AC技术的道德、法律与信用问题进行对话与合作的平台，推动全球范围内的知识分享和共识建立。这有助于协调国际间的立法和标准制定，提高技术治理的效力，减少不必要的国际争端。

5. 为技术创新提供道德和法律指导

通过讨论道德和法律问题，分会议将为AI与AC技术的创新提供道德和法律上的指导和支持。这将有助于鼓励技术创新，同时确保创新是合法和伦理的。这对于科研机构、企业和创新者都具有重要意义。

6. 加强公众信任与教育

本分会议的讨论将有助于提高公众对AI与AC技术的理解和信任。通过公众参与和教育活动，可以减少对这些技术的不必要担忧，从而推动其在社会中的更广泛应用。这对于技术的可持续发展和社会的长期稳定至关重要。

总之，道德、法律与信用国际会议将为人工智能和人工意识技术的未来发展提供一个重要的平台，为解决相关问题和挑战提供智慧和方案，确保这些技术能够更好地服务人类社会，维护社会的稳定和公平。通过合作和共同努力，我们可以建立一个更加道德、公正和可信的技术未来。

段玉聪，海南大学计算机科学与技术学院教授，博士生导师， 第一批入选海南省南海名家计划、海南省领军人才，2006年毕业于中国科学院软件研究所，先后在清华大学、首都医科大学、韩国浦项工科大学、法国国家科学院、捷克布拉格查理大学、意大利米兰比克卡大学、美国密苏里州立大学等工作与访学。现任海南大学计算机科学与技术学院学术委员会委员、海南大学数据、信息、知识、智慧、意图DIKWP创新团队负责人、兼北京信用学会高级顾问、重庆警察学院特聘研究员、海南省委双百人才团队负责人、海南省发明协会副会长、海南省知识产权协会副会长、海南省低碳经济发展促进会副会长、海南省农产品加工企业协会副会长、海南省人工智能学会高级顾问、美国中密西根大学客座研究员及意大利摩德纳大学的博士指导委员会委员等职务。自2012年作为D类人才引进海南大学以来，累计发表论文260余篇，SCI收录120余次，ESI高被引11篇,引用统计超过4300次。面向多行业、多领域设计了241件（含15件PCT发明专利）系列化中国国家及国际发明专利，已获授权第1发明人中国国家发明专利及国际发明专利共85件。2020年获吴文俊人工智能技术发明三等奖；2021年作为程序委员会主席独立发起首届国际数据、信息、知识与智慧大会-IEEE DIKW 2021；2022年担任IEEE DIKW 2022大会指导委员会主席；2023年担任IEEE DIKW 2023大会主席；2022年获评海南省最美科技工作者（并被推全国）；2022年与2023年连续入选美国斯坦福大学发布的全球前2%顶尖科学家的“终身科学影响力排行榜”榜单。参与研制IEEE金融知识图谱国际标准2项、行业知识图谱标准4项。2023年发起并共同举办首届世界人工意识大会（Artificial Consciousness 2023, AC2023)。

数据（Data）可视为我们认知中相同语义的具体表现形式。通常，数据代表着具体的事实或观察结果的存在语义确认，并通过与认知主体已有认知对象的存在性包含的某些相同语义对应而确认为相同的对象或概念。在处理数据时，我们常常寻求并提取标定该数据的特定相同语义，进而依据对应的相同语义将它们统一视为一个相同概念。例如，当我们看到一群羊时，虽然每只羊可能在体型、颜色、性别等方面略有不同，但我们会将它们归入“羊”的概念，因为它们共享了我们对“羊”这个概念的语义理解。相同语义可以是具体的如识别手臂时可以根据一个硅胶手臂与人的手臂的手指数量的相同、颜色的相同、手臂外形的相同等相同语义进行确认硅胶手臂为手臂，也可以通过硅胶手臂不具有真实手臂的可以旋转对应的由“可以旋转”定义的相同语义，而判定其不是手臂。

 信息（Information）则对应认知中不同语义的表达。通常情况下，信息指的是通过特定意图将认知DIKWP对象与认知主体已经认知的数据、信息、知识、智慧或意图联系起来，产生新的语义关联。在处理信息时，我们会根据输入的数据、信息、知识、智慧或意图，找出它们被认知的DIKWP对象的不同之处，对应不同的语义，并进行信息分类。例如，在停车场中，尽管所有的汽车都可以归入“汽车”这一概念，但每辆车的停车位置、停车时间、磨损程度、所有者、功能、缴费记录和经历都代表着信息中不同的语义。信息对应的不同语义经常存在于认知主体的认知中，常常未被显式表达出来，例如抑郁症患者可能用自己情绪“低落”来表达自己当前的情绪相对自己以往的情绪的下降，但这个“低落”对应的信息因为其对比状态不被听众了解而不能被听众客观感受到，从而成为该患者自己主观的认知信息。

 知识（Knowledge）对应于认知中的完整语义。知识是通过观察和学习获得的对世界的理解和解释。在处理知识时，我们通过观察和学习抽象出至少一个完整语义对应的概念或模式。例如，通过观察我们得知所有的天鹅都是白色，这是我们通过收集大量信息后对“天鹅都是白色”这一概念的完整认知。

 智慧（Wisdom）对应伦理、社会道德、人性等方面的信息，是一种来自文化、人类社会群体的相对于当前时代固定的极端价值观或者个体的认知价值观。在处理智慧时，我们会整合这些数据、信息、知识、智慧，并运用它们来指导决策。例如，在面临决策问题时，我们会综合考虑伦理、道德、可行性等各个方面的因素，而不仅仅是技术或效率。

 意图（Purpose）可以看作是一个二元组（输入，输出），其中输入和输出都是数据、信息、知识、智慧或意图的内容。意图代表了我们对某一现象或问题的理解（输入），以及我们希望通过处理和解决该现象或问题来实现的目标（输出）。在处理意图时，人工智能系统会根据其预设的目标（输出），处理输入的内容，通过学习和适应，使输出逐渐接近预设的目标。