AWS 演示用 Bedrock 与 LiteLLM 搭 LLM 网关
热点事件持续更新
AWS 演示用 Bedrock 与 LiteLLM 搭 LLM 网关
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
AWS Machine Learning Blog 发布文章,演示如何用 Amazon Bedrock Application Inference Profiles 配合运行在 AWS Fargate 上的 LiteLLM,搭建一个把 Bedrock 封装为 OpenAI 兼容 API 的自助式 LLM 网关。 该方案面向希望以 OpenAI 兼容接口调用 Bedrock 模型的用户,网关运行在 AWS Fargate 上。文章为技术演示,未给出实际部署后的效果数据。
AI 根据报道生成 · 31 分钟前更新
最新进展11月13日 02:41
用 Amazon Bedrock 和 LiteLLM 构建自助式 LLM 网关报道时间线
沿着报道,了解事件的不同侧面。
11月13日
- AWS Machine Learning Blog用 Amazon Bedrock 和 LiteLLM 构建自助式 LLM 网关
文章演示如何用 Amazon Bedrock Application Inference Profiles 配合运行在 AWS Fargate 上的 LiteLLM,搭建把 Bedrock 封装为 OpenAI 兼容 API 的自助式 LLM 网关。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。