AI guides

全行业的「龙虾热」中,什么是AI Infra下半场的「神之一手」?

By 冷猫1 viewsSource: 机器之心
全行业的「龙虾热」中,什么是AI Infra下半场的「神之一手」?

我确实对运行 OpenClaw 持相当怀疑的态度。…… 整个生态给人的感觉就像是一个彻底的狂野西部,在安全性上简直是一场噩梦。 —— Andrej Karpathy

The full text has not been translated yet. The Chinese original is shown below.

我确实对运行 OpenClaw 持相当怀疑的态度。…… 整个生态给人的感觉就像是一个彻底的狂野西部,在安全性上简直是一场噩梦。 —— Andrej Karpathy

OpenClaw 这只龙虾,彻底从开发者和科技爱好者的小圈子里跳出来了。

从 Clawdbot 诞生至今,其在 Github 上已狂揽 352k stars,超越 Linux 与 ReAct ,飞涨速度令人瞠目结舌。

文章配图

放眼望去,站在 AI 前沿的各大互联网大厂,手机厂商,甚至就连谷歌、英伟达等海外科技巨头,无一缺席,纷纷发布部署 OpenClaw 的相关产品或是相关工作。

各种 OpenClaw 类的「龙虾」工具,和目前已经相当成熟的智能体最大的不同,其实是与社交媒体和实时通讯工具的无缝融合。

这只龙虾满足了人们对于「智能体」时代的想象:发一条消息,远在千里之外的人工智能就能帮你把活搞定。

全民养龙虾的热潮,真正是一堂认知课,让每一个普通人都意识到了 AI 圈子里早些日子认知到的一个事实:AI 已经进入了「自主执行时代」。

AI 进入「自主执行时代」

在 OpenClaw 这类的自治 Agent 系统爆火之后,人们第一次如此直观地感受到:AI 的角色正在发生根本变化。

文章配图

早期的 LLM Agent 主要依赖 Prompt、知识检索和简单工具调用,本质仍然是对话助手;随后出现的 Workflow Agent 引入了流程编排和任务自动化,模型可以根据预设流程完成复杂操作;而在最新一代 Agentic Agent 架构中,智能体可以自主规划任务、动态调用工具并持续与环境交互。

文章配图

换句话说,AI 正在从「聊天助手」走向「数字员工」,这也是智能体最具魅力的地方。

但硬币总有第二面。我们前段时间做过相关的报道(在新窗口打开),给「龙虾热」狠狠泼上一盆冷水。

简单来说,就是在工作中使用智能体时候,最经典的「rm -rf」操作频频上演。有删除 D 盘文件的,删除社交账号记录的,这种问题就连Meta 超级智能安全总监都中招了(在新窗口打开)。

文章配图

另外,如果一个智能体可以执行代码、访问网页甚至调用系统命令,那么它本身就会成为新的攻击入口。也有案例,员工私自在公司电脑上安装 OpenClaw,导致把机器挂到了公网,被黑客入侵了整个公司内网。

也难怪 Karpathy 发出了本文开头的感慨。本质上来说,Agent 缺少可控的「安全执行边界」、身份认证、权限管理,亟需一个可控的执行环境和隔离机制。

而安全问题只是其中之一。我们知道,Agent 的任务往往具有一些非常典型的特点:生命周期短,并且带有上下文状态。

很多 Agent 执行任务的时间只有几秒到几分钟,用完即销毁,同时系统可能在瞬间创建大量执行环境。然而传统云计算架构主要是为长期运行的服务设计的,就会出现资源利用率低、冷启动慢以及成本高的问题。

也就是说,Agent 的会话性、上下文敏感、极致弹性的资源架构,决定了需要更加灵活的服务资源支撑。

第三个挑战来自并发规模。Agent 的并发规模远远超过普通应用。尤其是在强化学习训练中,每一个智能体都需要一个独立环境进行交互,需要海量的并发环境来实现。这对底层基础设施提出了极高要求。

本质上,我们需要一个轻量级、快速启动、可水平扩展的执行环境来承载智能体所需的高并发任务。

实话说,目前的智能体及其执行环境正处于一个野蛮生长的阶段。据我们了解,行业内执行环境 API 形态繁杂,至少存在十几种不同的智能体协议。

在缺少一个强有力的协议标准的情况下,智能体基础设施在多云以及跨平台的可移植性和规模化落地上形成了无形的巨大阻力。

护航企业「龙虾类」智能体的基础设施

这正是各大云服务和 AI Infra 厂商正在考虑的问题,让 AI 拥有一个可控、可管理、高效执行的空间,是智能体「自主执行时代」的兵家必争之地。

我们发现,腾讯不仅在养龙虾这件事上上心,更要在 AI Infra 领域深度拥抱智能体时代。

文章配图

腾讯云云原生产品副总经理、腾讯云专家工程师 Gary认为「AI agent 的这一次的变化,改变企业的形态、改变社会的形态、改变组织的形态、改变软件的形态、改变用云的角色的形态。」

为此,腾讯云 Agent Runtime 深度洞察企业核心诉求,为企业级 AI 智能体应用打造了全方位的专业支持,助力企业高效构建智能化能力。

腾讯云 Agent Runtime 的解决方案包含浏览器、code 执行、手机、电脑等丰富的沙箱类型,提供全链路安全、Agent 原生资源架构、极致弹性与生态兼容的能力,实现极速启动和十万级实例并发,开箱即用的领先特性,让 Agent 在企业应用中具备安全、可靠的执行环境。

文章配图

作为 AI Agent 走向产业化的核心驱动力,腾讯云 Agent Runtime 已成为支撑腾讯内部及多家国内头部大模型企业的关键基础设施。

目前,该平台已稳健托管数十万个 Agent 实例,能够完美补齐企业级场景所需的可用性、安全性与可治理性,打通了从开源框架到生产力工具的「最后一公里」。

开发者们选择腾讯云 Agent Runtime 很重要的原因,是其开箱即用的省心特性。腾讯云 Agent Runtime 解决了以 OpenClaw 为代表的这类自主智能体,在企业级部署中最令人头疼的两大问题:

Agent 状态管理

我们知道,Agent 和普通服务不一样,会在运行过程中不断留下状态,并且大部分时候处于等待任务的状态。

如果让它常驻运行,高昂的成本让企业难以承受;如果随用随启,Agent 在运行过程中积累的上下文、工具链产物和环境配置就会随着容器的销毁而化为乌有。

Agent Runtime 的核心突破在于实现了状态与算力的解耦。没请求时暂停实例、释放算力;有请求时自动恢复,整个文件系统原样保留。这样一来,Agent 空闲时可以停,干活时又能从上次的状态接着干。

在这个基础上,Agent Checkpoint也就成了自然能力。一个已经调教好的 Agent,可以在任意时刻做快照,后续用来恢复、回滚,或者直接克隆出更多实例,让已经积累下来的经验和能力可以复制、继承。

Agent 行为治理

Agent 拥有编写代码和调用接口的能力,这赋予了它极高的生产力,但也带来了巨大的行为管理难题。企业要让它们运行在可控、可审计的边界里。

Agent Runtime 会对所有 Agent 都进行严格的隔离。每个 Agent 实例都运行在独立的 VM 级安全沙箱里。这样即使某个实例被攻破或者出了异常问题,影响也只会停留在它自己身上,不会影响其他实例或平台。

对外访问及本地敏感操作统一治理。Agent 发起外部请求时,凭证不保存在实例里,而是由 Gateway 按需注入、用完即销毁,做到实例本地零凭证;权限由网关统一控制、统一审计;删除资源、修改权限、发起外部请求这类高危操作,还可以配置审批或拦截规则。

这套方案的本质,是 AI Infra 的能力基础,承托起 Agent 业务的灵活高效。这一架构没有试图通过限制「龙虾」的感知和行动来换取安全,反而为企业补齐了安全、治理与运营的基础设施。

不惧变动的数据资产

Agent 在运行中沉淀三类资产:技能(Skill)、记忆(Memory)、协作关系。

三类资产从第一天起就独立于框架存储和管理。Skill 以制品形式入库,版本管理、权限管控,任意实例可引用;Memory 从本地同步上云,跨实例共享,新 Agent 继承老 Agent 的经验;Agent 之间通过 Gateway 做服务发现和路由,协作在平台层编排,不依赖框架私有协议。

Agent 框架可能会更新、会被替代,但 Agent 们积累的数据不会过时。知识与技能永远留在企业内部,不跟着个人走,也不跟着框架走,最终转化为企业的生产资料。

迎接智能生产力

AI 进入企业,发生变化的不会只有技术。流程、分工、权限、成本,都会跟着进行进化。

Agent Runtime 的核心使命,是为企业提供一套全局视角的「AI 员工」管理模式,让组织能够接得住、管得好这股新型生产力。

Agent Runtime 服务于企业对全局 Agent 的技能、行为、权限和成本的管控:平台团队先把 skill、初始化脚本、镜像和配置封装成模板,统一化管理任意开源或自建 Agent 在内部的创建和版本变更;再通过策略管控所有 Agent 的工具调用、数据访问、LLM 调用等行为执行边界;还可以通过 token 额度管理实例、用户和组织三层的成本消耗。

在腾讯云 Agent Runtime 的加持下,龙虾不再难以驯服,能够成为在企业复杂网络环境中纵横驰骋、安全合规的高产工具,成为了企业 AI 转型的第一步。

业界最强性能亮相,Minimax 用上也「真香」

随着 AI 演进从简单的「会话」跨越到「动态交互」,Agentic RL(智能体强化学习) 已成为通往 AGI 的必经之路。

如果说大模型的「大脑」是通过海量文本喂养出来的,那么真正具备自主灵魂的智能体,则是通过在真实环境中的「摸爬滚打」练就的。

Agent RL 最大区别就是需要和环境交互,交互好坏影响训练效率和效果。这种交互一般是在沙箱中执行的,因此沙箱是强化学习的「命门」,是决定 Agent 进化速度与天花板的核心基础设施。

文章配图

腾讯云 Agent Runtime 作为最前沿的智能体基础设施技术突破,在今年的英伟达 GTC 大会上亮相。

文章配图

在 GTC 大会上,腾讯云团队提出,Agent RL 将带给沙箱的挑战推向了极致:需要训练、推理、环境交互与系统复杂性的四重叠加。

文章配图

腾讯云 Agent Runtime 智能体沙箱在 GTC 的亮相,吸引了全球开发者的目光。沙箱已从单纯的安全组件,进化为 Agent 时代的「基础设施一等公民」 。通过 Agent-Native 的设计理念,它正为全球开发者提供一个更安全、更高效、更具扩展性的 Agent 进化摇篮。

毫秒级启动,十万级并发,MiniMax 高性能稳定落地

还记得过年前后,那个温暖打工人钱包的1 美元时薪大模型 MiniMax M2.5 吗(在新窗口打开)?

一个 10 B 参数量的全能选手,在多语言任务 Multi-SWE-Bench 上拿下了行业第一;在 SWE-Bench Verified 评测集上,基于 Droid 和 OpenCode 的实战测试中,它的通过率(79.7% / 76.1%)双双超越 Opus 4.6。

而鲜为人知的是,MiniMax 与腾讯云在 Agent RL 场景下进行了合作,在腾讯云 Agent Runtime 的强大性能的基础上,突破了现实世界的智能体 RL 的「不可能三角」:平衡系统吞吐量、训练稳定性和智能体灵活性。

文章配图

MiniMax Forge 架构图

交互环境的并发、弹性和质量直接决定了模型训练的效率和效果。

  • 极致性能响应: 实现 80ms 极速启动与 P99 延迟小于 1 秒 ,确保 Agent 在复杂任务中获得近乎实时的交互反馈。
  • 海量并发能力: 支持每分钟十万级沙箱实例的并发创建与瞬时销毁,实现 99.99% 的稳健成功率。
  • 分发加速架构: 凭借「镜像去重 + 多级缓存 + 加速中心」的三位一体技术,实现数十万镜像的分发加速。
  • 全场景环境模拟: 深度覆盖代码、浏览器、手机及桌面端全平台环境,原生适配 SWE-bench 与 OSWorld 等主流 Agent 评测标准。
  • 原生开发生态: 提供兼容 E2B 协议的开源 SDK、API 及完整工具链,深度集成主流训练框架以实现无缝迁移。

依托腾讯云提供的 Agent Runtime 沙箱服务,MiniMax 实现了强化学习场景中大规模交互环境的毫秒级拉起、十万级并发、瞬时销毁,大幅提升了并发 Rollout 的训练吞吐量和稳定性,更为模型在系统终端的自主试错构建了安全边界。

在性能方面,腾讯云 Agent Runtime 在单个镜像(如 Code Interpreter)场景下,大规模并发启动沙箱,最大可以支持每分钟 60 万沙箱创建,QPS 可以达到 1 万以上,整体P99 延迟控制在 1 秒左右。因为整体架构没有单点依赖,整体系统仍然可以横向扩展。

文章配图

文章配图

在 SWE RL 场景下 Agent Runtime 沙箱的压测效果可以达到16 万 QPM 的吞吐,P99 延迟控制在 1 秒以内,成功率达 99.99%。这仍然不是 Agent Runtime 沙箱的并发上限,系统支持便捷横向扩容。

文章配图

MiniMax 与腾讯云的深度技术共建,有效突破了传统架构在大规模并发、极速启动上的能力瓶颈。

MiniMax 的 Agent 首席架构师阿岛说,目前 Agent 已经能够自主地驱动很大部分的 agentic RL 过程,但「这里面最有可能卡住的就是沙箱的环节,(如果任意环节卡住)就会极大的影响我的模型的迭代,如果迭代速度慢了,那可能和别的模型相比,我的竞争力就会受到影响。」

在如此白热化的激烈竞争态势下,Minimax 与腾讯云 Agent Runtime 的协作,从轻量级调度、极致存储优化,到全场景的真实环境模拟,这套 Agent Infra 方案,为强化学习框架提供了一个极致弹性、可持续扩展的生产级试验场,对 Minimax 保持强势的竞争力至关重要。

结语:在狂野西部,建立文明的边界

我们获悉,腾讯云 Agent Runtime 底层平台 Cube 将全面开源,企业可直接用于智能体训练和部署。

如果说 OpenClaw 的爆火象征着 AI 开发者们在「狂野西部」的一次集体冲锋,那么腾讯云 Agent Runtime 的出现,则标志着这场运动开始从无序走向秩序与成熟。

过去我们习惯于讨论模型的参数量、推理能力或是多模态性能,但在「自主执行时代」,这些只是智能体的「大脑」。正如 Karpathy 所担忧的那样,没有安全边界和性能保障的智能体,很可能是数字世界混乱的源头。

腾讯云 Agent Runtime,第一次为这群「数字员工」提供了一个既能自由探索、又绝对可控的「数字化工位」。

基础设施的演进往往滞后于应用层爆发,但它决定了应用能走多远。当毫秒级的冷启动、容器级的安全隔离以及标准化的执行协议成为标配,智能体才真正具备了大规模进入产业生产线的资格。

腾讯云 Agent Runtime 正在成为智能体时代的「调度中心」,更是智能体自我学习,通往 AGI 闭环过程中,不可或缺的一块拼图。

这只从圈子里「跳出来」的龙虾,终于在云端找到了它最稳健的栖息地,也找到了它通往自我进化的快车道。

文章来自于"机器之心",作者 "冷猫"。

Related topics

After reading

Join the AINRK community

Read how to join the community and connect with people working in AI.

Community information (opens in a new tab)