《镜子大全》《朝华午拾》分享 http://blog.sciencenet.cn/u/liwei999 曾任红小兵,插队修地球,1991年去国离乡,不知行止。

博文

Agent 时代的临界点:谈谈 OpenClaw 的安全隐患

已有 153 次阅读 2026-2-12 23:30 |个人分类:AI 浪潮|系统分类:科研笔记

立委按:OpenClaw 这个“春节小龙虾”的爆火,非常现象级。本来应该是极客社区的玩闹,结果引发整个产业的热闹。外网内网,几乎无人不谈。agent 为什么要借助它才火、才被看见?根子是本地部署给人一种安全感,但可能是一种虚假的安全,一种“可控幻觉”。open source 的这个 openclaw agent framework 里面几乎没有任何安全防护。现在看到的 openclaw 无所不能,只能算agent 潜力在没有顾忌的理想世界里的活生生的展示。一个个人开发者,用现有模型和开源框架,就能拼出这种级别的 Agent,说明了什么?说明了,“核武器”似乎开始了民间扩散的迹象。OpenClaw 之所以震撼,不是因为它创造了新能力;而是因为它第一次让我们看清,大模型的能力一直在那里,只是我们之前不敢给它钥匙。OpenClaw让我们加速看到了能力爆炸的样子。为什么能力会爆炸?因为能力是函数技能组合出来的,组合的本性就是爆炸。前 llm-agent 时代,组合这些能力都是码农手工做,是要软件立项,一个一个整。在llm与skills生态分工合作的agentic-AI新时代,一切能力都可以随时组合。OpenClaw 在那里24小时不吃不喝不睡在做组合,现场试错,反复修正,不爆发才怪,我们仿佛进入一个“只怕想不到,不怕做不到”的agi时代。前一阵子的豆包手机的惊艳表现,与现在极客弄出来的这个openclaw爆火,都说明了:不是没有需求,也不是没有技术,更不是核弹还不够威力,而是需要一个不断放权的时机和触发点。但安全隐患会成为今后最大的挑战。   key takeaways:本地部署带来“可控幻觉”;开源 Agent 几乎无安全护栏;能力爆炸来自组合,而不是单点突破;大厂没敢给“操作系统权限”,个人开发者敢;风险扩散速度可能快于治理速度;Agent 爆发是放权与安全的平衡问题,而不是纯技术障碍;80% 软件可能被重写。一、OpenClaw 不是能力突破,而是权限解锁

OpenClaw 的震撼,并不来自新的算法。

它没有训练新模型。没有提出新的推理机制。没有突破 Scaling Law。

它做的只有一件事:把已经足够强的大模型,接上了真实世界的执行权限。

浏览器控制。文件系统访问。Shell 执行。API 调度。

模型早已具备规划与推理能力。我们只是第一次,敢给它钥匙。

二、本地部署制造了“可控幻觉”

OpenClaw 的火爆,还有一个心理学层面的因素。

本地运行带来一种强烈的主权感。

进程在自己电脑上。数据在自己硬盘里。随时可以 kill。甚至可以直接拔电源。

这种“物理终止权”,构成了一种心理安全感。

但必须清醒:

本地部署解决的是控制路径问题,不是攻击面问题。

Prompt Injection 不会因为在本地而消失。权限扩张不会因为硬件在桌上而收缩。

本地带来的是可见性。可见性带来安心。安心未必等于安全。

这种“可控幻觉”,恰恰是 Agent 能够被大众接受的缓冲层。

三、能力爆炸来自“组合”,不是突破

Agent 时代真正的加速器,不是模型升级,而是组合能力的指数化。

在传统软件时代,能力组合是人工完成的。每个功能需要立项、编码、部署。

在 LLM + Skills 的时代,组合变成了实时、自动、持续的。

Agent 24 小时运行,不断尝试路径,不断修正,不断组合。

能力不是线性增长,而是路径空间的爆炸。

组合的本性,就是爆炸。

四、大厂的克制与个人开发者的冒进

为什么是开源个人项目引爆?

因为大厂不敢给“操作系统级权限”。

法律责任。品牌风险。监管压力。安全成熟度。

这些因素决定,大厂只能在“安全壳”内释放能力。

而个人开发者没有这些约束。

当约束减少,能力就显现。

OpenClaw 不是技术领先,而是约束更少。

这让我们第一次看到——

能力爆炸原来早已在那。

五、风险扩散的速度,可能快于治理速度

如果一个个人开发者,利用现有模型与开源框架,就能拼装出这种级别的 Agent,

那意味着:

能力门槛正在降低。执行权正在民主化。风险正在民间扩散。

这不是核武器级别的封闭技术。这是可复制、可拼装、可再分发的能力结构。

当能力扩散速度,超过治理设计速度时,结构性风险就出现了。

六、Agent 的真正挑战不是模型安全,而是执行安全

LLM 本身,是“脑”。

Agent 是“手”。

脑的安全问题,在过去两年已经被广泛讨论。

但手的安全问题,才刚刚开始。

一旦模型具备:

    • 持续执行能力

    • 自主调用能力

    • 权限调度能力

错误将不再是“回答错误”,而是“行动错误”。

而行动错误,是不可逆的。

这将迫使我们重新定义“可控性”。

Kill 进程不是治理。拔电源不是治理。真正的治理,是边界验证与权限最小化。

Agent 时代,安全必须内嵌于架构之中,而不是事后加装护栏。

七、软件结构可能重写

当 Agent 可以:

    • 直接理解意图

    • 动态组合工具

    • 实时修正路径

那么大量以“流程固化”为核心的软件,确实会失去价值。

不是全部消失。但大量工具型软件会被吸收。

软件从“功能模块”变成“能力接口”。

未来的软件,不再是用户直接使用,而是被 Agent 调度。

这是一种结构迁移。

八、我们正站在临界点

OpenClaw 只是一个信号灯。

它告诉我们:

AGI 也许尚未到来,但“行动自动化时代”已经开始。

这个时代的特征不是更聪明的模型,而是更敢于释放权限的系统。

真正的挑战,不是模型会不会失控。

而是——

当机器开始替我们持续行动时,我们是否准备好,把“权力与责任结构”重新设计一遍。

立委 agentic AI 春节系列



https://blog.sciencenet.cn/blog-362400-1522147.html

上一篇:Agent 时代的一些术语澄清
收藏 IP: 108.65.198.*| 热度|

0

该博文允许注册用户评论 请点击登录 评论 (0 个评论)

数据加载中...

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2026-2-13 13:47

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部