AWS 发布新一代 Amazon Bedrock AgentCore runtime

AI 智能体已经超越了单次提示。它们现在可以连续数小时运行多步骤工作负载。前沿智能体能够独立完成的任务长度大约每四个月翻一番（METR），并且 40% 的大型企业正在扩大 AI 智能体的规模，高于一年前的 27%（McKinsey）。随着智能体运行时间更长、自主性更强，关注点从智能体能做什么，转向它们如何在大规模下安全、可靠且经济地运行。智能体做的比传统软件更多：它们执行代码、浏览网页、访问敏感数据，并代表用户行事。这些能力带来了新的安全和基础设施需求，使得强隔离成为生产部署的必要条件。

每个智能体会话都需要一个安全、隔离的环境。但大规模提供这种隔离带来了一个根本性挑战：平衡性能、成本和效率。预配置环境即使在空闲时也会消耗资源，推高成本。按需环境减少了浪费的容量，但引入了冷启动延迟，拖慢智能体执行。两种方法都无法在没有权衡的情况下高效扩展。随着组织从部署少量智能体转向运行数千个并发会话，构建和管理自定义沙箱变得越来越复杂、昂贵且不可预测。

挑战显而易见。只有 15% 的组织扩展了编排的多智能体系统，70% 的组织表示他们还不能信任和治理其智能体（Deloitte）。扩展智能体不应意味着在安全、速度和成本之间做选择。下一代智能体基础设施必须提供强隔离，同时具备快速启动时间、弹性扩展和基于使用的经济性。因为随着 AI 智能体进入生产环境，安全执行不应成为瓶颈。它应该成为使规模成为可能的基础。通往生产的最快路径也应该是最安全的路径。

下一代 AgentCore 运行时

我们构建了 Amazon Bedrock AgentCore，帮助开发者安全地大规模构建、连接和优化智能体。AgentCore 运行时是 Amazon Bedrock AgentCore 的一项能力，是托管计算层。它为开发者提供了一个完全托管的環境来部署和运行智能体，而无需构建或维护基础设施。自推出以来，我们的客户一直在将其智能体推向日益复杂的工作负载。随着这些工作负载的增长，对执行环境的需求也在增长：更多计算、更灵活的计费，以及不仅限于计算、还延伸到数据的信任边界。只有当底层基础设施同时为规模和速度而构建时，智能体才能大规模进入生产环境。

今天我们宣布对 AgentCore 运行时的更新，以满足这些需求。核心保证依然成立：每个会话都在其自己的硬件隔离 Firecracker 微虚拟机（MicroVM）中运行，拥有自己的身份、策略和审计跟踪。这些更新扩展了该保证范围内的可能性。会话现在启动速度最高提升 15 倍，可扩展到 4 倍的计算量，运行效率最高提升 68%，同时隔离边界完全完好。

以下是新增内容。

运行更大的工作负载，而无需等待更长时间启动

构建日益先进智能体的团队要求更高的灵活性：能够在隔离会话内扩展内存和计算资源，以满足其工作负载的需求。从大型代码库编译到浏览器驱动的工作流再到本地模型推理，执行环境都需要跟上节奏。

会话现在相比上一版本扩展至 4 倍，最高可达 8 个 vCPU 和 32 GB，并支持最大 10 GB 的容器镜像。会话启动时间低于 2 秒，且不受镜像大小和并发量影响。你不再需要热池和预配置集群来管理冷启动。

“迁移到下一代 AgentCore 运行时后，我们的智能体会话冷启动时间从近一分钟缩短到五秒以内，即使在流量高峰期也是如此。它还消除了超过 30 秒的启动延迟，同时我们的每周智能体调用量还增长了一倍以上。”

— Siwei Shen，Coinbase 工程副总裁

“Mission 正在使用 Amazon Bedrock AgentCore 运行时来驱动一个自然语言查询智能体，帮助用户获取房产和销售洞察，而无需在复杂的数据系统中导航。在我们对两个运行时版本的初步对比中，相同工作负载的推理请求冷启动速度提升了 35%，健康检查启动速度提升了 77%，同时每次调用的实测运行时成本降低了 17%。随着我们将企业智能体投入生产，新的 AgentCore 运行时为我们带来了更快的智能体体验和更高效的资源利用这一极具吸引力的组合。”

— Dr. Ryan Ries，Mission Cloud 首席 AI 与数据科学家

“我们的做法是尽可能以自动化和 AI 智能体来运行 Zuora 的云环境，而这只有在运行时高效可靠的前提下才可行。下一代 AgentCore 运行时在许多用例中将我们每次调用的内存占用降低了约 60%，同时以稳定的延迟处理更多流量。随着我们在整个平台扩展智能体工作负载，这为我们带来了更强的成本优势。”

— Brad Ruppert，Zuora 云与安全副总裁

“Rescale 平台通过智能体化数字工程帮助研发和工程团队加速产品开发。我们面向工程的专用智能体负责验证仿真输入、排查作业问题、选择硬件并生成报告，而工程师始终掌握控制权。Amazon Bedrock AgentCore 运行时让我们能够在生产环境中部署和扩展这些智能体，而无需构建或运维底层智能体基础设施，因此我们能够更快地向客户交付新智能体。”

— Mark Whitney，Rescale 工程副总裁

不再为闲置智能体付费

随着团队将智能体推向生产环境，他们要求计费方式能够反映智能体的实际工作方式。智能体大部分时间都在等待模型响应、工具调用或人工决策。智能体应当按其完成的工作计费，而不是按其等待的时间计费。

现在，运行时能在智能体释放内存后的几分钟内回收内存，空闲智能体可缩容至零。对于交互之间存在自然停顿的多轮智能体，这意味着每个会话的内存消耗最多可减少 68%。对于始终在线的智能体，承诺基线定价为每个会话设定内存基线，按最低用量计费，并可按需突发至该基线的四倍。这为稳定工作负载提供了可预测的费率，按 AWS Lambda MicroVM 费率计费。运行时更高效地使用计算资源，因此同样的工作您支付更少。这让常常阻碍生产部署的财务讨论更容易达成。

“下一代 Amazon Bedrock AgentCore 运行时帮助我们提供更灵敏的 AI 体验，它能更快启动智能体并更高效地使用内存。将消耗与实际使用量对齐，让我们的客户有信心扩展智能体解决方案，同时让成本与真实需求保持关联。”

— Ashwin Patil，Deloitte Consulting LLP 董事、AI 与数据负责人

“AgentCore 运行时为我们提供了一个托管基础，用于围绕客户的数据、工具和业务流程构建智能体产品和平台。下一代 AgentCore 运行时通过恢复已初始化的环境并回收未使用的内存，使该基础更加灵敏、资源效率更高。我们正开始基于最新版本进行构建，因为成本和延迟的降低对我们客户的业务运营方式产生了显著影响。”

— Randall Hunt，Caylent 首席技术官

隔离现已延伸至您的数据

许多企业在智能体安全模型上面临一个持续存在的缺口。智能体在隔离的会话内运行，但它所需的数据却位于该边界之外。长时间运行的智能体会在使用过程中不断获取上下文：文件、凭证、工具输出等。团队最终不得不自行制定数据进出规则，每新增一个智能体都会增加复杂性和风险。

仅止于计算的隔离只是边界的一半。下一代 AgentCore 运行时弥合了这一缺口。每个会话仍在各自硬件隔离的环境中运行，拥有自己的身份、访问策略和审计跟踪。智能体现在可以动态挂载工作内容并将其保存到文件系统，例如支持 FUSE 的 Amazon Simple Storage Service（Amazon S3）存储桶。在整个任务期间，您的数据始终留在信任边界内，由您一次性定义的一套控制措施统一管理。

“在 Okta，AgentCore 运行时与 Lambda MicroVM 的结合提供了我们的智能体所需的隔离执行环境和上下文记忆，使其能够在临时沙箱中检查代码、运行测试套件并提交拉取请求。配合我们受身份治理的策略控制，AgentCore Runtime 和 Lambda MicroVM 展示了我们如何安全地扩展自主工程智能体，而不会冒工作区泄漏或权限提升的风险。”

— Monica Bajaj，Okta 工程高级副总裁

“从帮助购车者评估置换价值，到帮助经销商预约服务并构建交易方案，Amazon Bedrock AgentCore 为 Cox Automotive 旗下各品牌的数十个智能体解决方案提供支持。拥有一个统一的、受治理的智能体平台，让我们各业务团队能够有信心地从试点走向生产。”

— Chris Dillon，Cox Automotive 产品与工程副总裁

我们的承诺

能够进入生产环境的智能体，是你信任其能代表你行动的智能体，它们处理真实数据、承担真实风险、负有真实责任。信任不是事后添加的功能，而是你构建所依托的运行时。本次发布是迈向这一未来的一步：更大的会话、高效的资源利用，以及位于信任边界内的存储，同时不放松使工作值得信赖的隔离机制。到 re:Invent 时，按会话划分的作用域将通过会话标记的凭证把每个会话绑定到其自己的存储文件夹，我们将在此基础上继续构建。

开始使用

下一代 AgentCore 运行时现已在北美、南美、欧洲和亚太地区的 AWS 区域推出。访问 Amazon Bedrock AgentCore 在其上构建，或打开 Amazon Bedrock 控制台 开始探索。

关于作者

Madhu Parthasarathy

Madhu 是 Amazon Bedrock AgentCore 的总经理，他领导团队构建该平台，企业借助该平台构建、连接和优化生产级 AI 智能体。他拥有超过 20 年构建大规模分布式基础设施的经验，其中在 Amazon 工作超过 16 年，期间在 Amazon Retail、Amazon Elastic Block Store (Amazon EBS) 以及现在的 AgentCore 领导了多项重大举措。在重返 Amazon 之前，Madhu 曾在 LinkedIn 担任高级领导职务，领导支撑 LinkedIn 所有企业业务线的企业平台；他还曾在一家新型云初创公司领导 AI 基础设施，并确立了安全与开发者体验的愿景。他常驻加利福尼亚州圣克拉拉。