|
2024–2026年活跃的DIKWP相关专利族
这些内容是因为它揭示了当前围绕自主 AI 代理及其验证、嵌入式验证/引用机制和控制面管理专利申请中正在形成的一些核心技术方向,这些方向正迅速影响 AI 安全与对齐基础设施的构建。

4
这些专利文献和研究显示,近期技术并不只是简单地让智能体生成内容,而是在尝试建立一个可验证、可纠错、可对齐的代理控制与评估层。例如,一项专利提出了一种利用生成式 AI 不断识别代理行为中与预期目标之间的差距,并通过定义的“操作性标准”动态生成校正行为,从而提高行为与规范的一致性。这个流程强调了用多个 AI 子模型来评估、识别和修正操作建议,以实现连续改进和符合预设标准的行为。
另一份已经授权的专利则关注于验证与引用机制,通过将查询转换成向量嵌入,与知识库中已有文档的嵌入进行比较,从而检索出最相关的支持信息,并将其用于增强回答的准确性和可追溯性。这里体现出一种“嵌入对比 + 文档引用”的机制,用于确保自动回答不仅是语言生成,还能附带可信来源支持。
这些技术脉络与当前 AI 代理验证和行为治理研究方向也相呼应——学术界正探索如何从“状态检查点与执行痕迹”之外获得可查询的推理来源记录,以便理解每一步决策背后的依据、信心和策略调整。这样的结构化理由来源对于对齐和跨代理比较都至关重要。
简而言之,核心趋势是从“黑箱生成”转向具有内在可验证性、对齐控制面逻辑和持续校正能力的复杂代理体系,这些体系的专利和研究成果正共同构建验证、记录、权限与控制层面的新基准。
Archiver|手机版|科学网 ( 京ICP备07017567号-12 )
GMT+8, 2026-4-3 22:11
Powered by ScienceNet.cn
Copyright © 2007- 中国科学报社