AWS发布Bedrock推理成本优化指南

AWS Machine Learning Blog 发布指南，称 Amazon Bedrock 的缓存时长、服务层级、推理强度和 maxTokens 四项请求级设置可在不改模型与提示词的情况下影响推理账单。 以 Claude Sonnet 5 为例，5 分钟缓存写入按输入价 1.25 倍计费、1 小时写入 2 倍、缓存读取 0.1 倍；同一前缀请求间隔超过 5 分钟时，1 小时缓存从第二次请求起更便宜。 指南还称，部分模型支持无需缓存控制的隐式提示缓存；向不支持 Flex 的模型发 Flex 请求会返回 ValidationException，而非静默按 Standard 运行；发布时 us-west-2 的 Nova 2 Lite Flex 价格为 Standard 的一半，账单已体现。

AI 根据报道生成 · 32 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。